自《中华人民共和国政府信息公开条例》、《中华人民共和国数据安全法》、《中华人民共和国保守国家秘密法》等有关规定和法案的出台，对数字化政府建设提出了新的更高要求。而政府网站作为数字化政府建设的重点之一，其安全和内容监管对推进数字化政府建设具有重大意义。

一、政府网站的安全和内容监管现状

目前，政府网站在日常工作中主要出现的问题有：

1.发布信息中存在错别字和敏感信息（含个人隐私信息）；

2.网页中存在暗链、外链、错链等异常链接；

3.网页被篡改；

4.站点无法访问；

5.栏目更新不及时等五大问题。

面对这五类问题，传统的解决方法是采用人工方式对页面进行监管，但是这种方式存在明显不足：

1.受监管人员业务素质、主客观判断等因素影响；

2.效率低下。

近年来，随着人工智能技术逐步成熟，实现了广泛应用和落地。政府网站安全和内容监管开始采用“AI辅助+人工主导”的模式进行风险防控。

二、AI在政府网站的安全和内容监管的应用

1 安全和内容监管体系

面对政府网站的安全和内容监管现状，星鸟网络结合人工智能技术和自身的业务场景，构建了一套“AI赋能+合规导向+系统闭环”的监管体系，如图所示：

该体系以AI算法做技术支撑，以政策法规做理论指导，以系统闭环做内核驱动。在合规层面，主要依据国务院等国家机构出台的政策文件，确保平台有法可依、有规可循。在技术层面，主要由AI监管系统+巡检系统+云监管平台构成系统闭环，对网站进行监管，保障网站的安全。

2 AI监管系统

星鸟网络自主开发的AI监管系统主要针对政府网站在日常工作中主要出现的5类问题进行监测，通过系统化集成的方式来保障政府网站的安全。

AI监管系统主要分为严重表述错误和敏感信息监管模块、异常链接监管模块、页面篡改监管模块、站点可用性监管模块、栏目更新监管模块5个模块。

严重表述错误和敏感信息监管模块又分为2个子模块：文本智能监测和图像智能监测。文本智能监测是基于对NLP的词法、句法、语义分析算法，构建海量样本库及违规词库；图片智能监测则是基于深度学习计算机视觉分类、检测和识别算法通过构建特定场景的海量数据集，训练出多种复杂的识别模型，如 OCR 模型、色情识别模型、暴力恐怖识别模型、敏感人脸识别模型、二维码、Logo、旗帜检测等。文本和图像相互配合，对政府网站发布的内容进行精准排查。例如：严重表述错误，涉黄、涉独、辱骂、违禁品、个人隐私等违法违规信息。

异常链接监管模块利用深度学习结合错链、外链、暗链等异常链接相关的文本特征、域名特征、结构特征，并在此基础上引入优化后的CART算法、GBDT算法、RF算法，对网页进行自动识别和检测。能做到资源占有率低、耗时低、准确率高。

页面篡改监管模块基于网页中上下文语义矛盾性，利用网络爬虫技术和基于Bert模型优化后的一套高精度监测网页篡改的模型，使AI监管系统面对大批量的政府网站群中的网页是否被篡改可以做出快速而准确的判断。

站点可用性监管模块通过多线路远程实时监测目标站点的网站状况，包括在多种网络协议下的可用性以及通过DNS解析监测网站可用性等能反映网站性能状况。

栏目更新监管模块采用星鸟网络自主开发的工具，监测政府网站的动态要闻类栏目和通知公告、政策文件类一级栏目，通过自定义设置预警时间点，将各栏目的监测情况在云监管平台呈现。

3 云监管平台

经过AI监管系统的数据，会汇集在云监管平台呈现经人工进行审核。以数据可视化技术直观的显示严重表述错误、敏感信息、异常链接、页面是否被篡改、站点可用性、栏目更新等情况。拥有实施快速、使用无门槛、在最短时间给用户提供全方位的信息保障服务，做到标签精细化、服务场景化、数据可视化、团队专业化。

4 巡检系统

巡检系统是一个数据复核系统，利用AI技术对人工审核的数据再次进行扫描和分析。当人工审核的数据状态为正常，但是AI判断为异常时，就会将异常内容展示在云平台，供审核人员进行排查处理，便于用户及时发现审核错误信息，为政府网站的安全再加一层保障。

三、结语

星鸟网络科是一家专门从事网站数据挖掘、诊断、站群考核及分析优化的互联网软件公司。公司主要产品为监控通和名企云，主要应用于各级政府部门和企业单位的网站运维监测、政务新媒体监测、微信运营、大数据决策等方面。

其中监控通采用的“AI辅助+人工主导”的模式，不仅在多项领域开创了新的里程碑，还获得了浙江省、上海市、湖南省、福建省等多省市政府的认可与信任，并被多省政府采购，用于政府网站站群日常考核与年终考核。

星鸟网络深知随着AI技术和运算能力持续发展与提升，AI必将不断赋能于政府网站安全和内容监管。星鸟网络也将从“人工为主，AI为辅”人机结合方式逐步发展为“AI为主，人工为辅”的机人智慧方式，不断迭代更新自己的产品，为客户提供更好的服务。