国家网安周丨“Al+网信安全”技术交流活动举行，发布三个行业白皮书

三个《白皮书》发布

安全大模型能力：基础网络安全能力评测成果发布

近年来，AI大模型以其强大的语言理解和生成能力，为各行各业带来了前所未有的便利与效率提升。然而，正如任何先进技术一样，大模型也伴随着不容忽视的安全隐忧。此次活动中，中国通信院人工智能研究所所长魏凯带来了题为《大模型安全风险应对之策》的分享。

“我觉得有两个‘+’，一个是‘技术+规则’，提升人工智能大模型内生安全水平，同时推进法律法规和治理框架的建立；一个是多主体之间特别是‘政府+企业或产业’，政府部门进行监管、推行规则，企业配合，各司其责、各负其责。” 魏凯说，在技术层面，大模型的风险控制要从评测能力、监测能力、保障、防护等方面采取措施来预防，一是在软件基础硬件上要加强保障；二是保障好数据安全，因为人工智能发展是重度依赖数据的；三是大模型的算法方面，多做评测和针对性加固；四是做好上下游用户教育和引导。

圆桌对话

如何用好AI这把“双刃剑”？在圆桌论坛环节，7位行业专家现场进行了探讨。

中国信息通信研究院人工智能研究所安全与元宇宙部高级业务主管陈文弢认为，一方面需要通过技术法律制度方面的机制，另一方面通过提升技术来保障安全规避风险。“越担心它就越要去熟悉了解它，我们可以通过系统的方法去了解它，比如将过去真实发生的攻击进行计算并评估。就像高考大家都紧张，但是高考前我们已经进行过很多次的模拟考试和历年真题，就有信心了。”

360安全科技股份有限公司集团副总裁余凯也呼吁整个行业一起围绕“怎样约束大模型”形成共识，共同探讨这个问题。谈及在构建安全大模型产品时遇到的挑战，余凯提到，目前整个行业还不能共享数据和参数，现在通用大模型回答很多问题的能力是不错的，但它的“安全”属于数据稀疏领域。目前公司提出了一套架构，在这套架构下，让一个通用大模型垂直提升它的安全能力。

活动现场，在三个行业白皮书发布后，相关领域专家和参与者进行了解读和介绍。

中国移动集团首席专家、信安中心网络安全研发中心经理张峰分享道：“有机构统计在2023年，我国的智慧城市市场规模就超过了8700亿元，预计到2027年我国的智慧城市的市场规模将会达到1.1万亿元。当前我国各个省市区基本完成了基础信息系统化建设，并储备了丰富的城市数据资源，这成为AI系统非常理想的应用场景。”

张峰说，基于过去多年项目实施的丰富经验和完善的网络信息基础设施，中国移动打造了九天·海算政务大模型，构建起算法+应用的生态体系，用于服务一网通办、一网统管和一网协同三大政务应用场景，目前已覆盖31个省市区。

活动现场

智慧城市建设需要AI技术，而AI应用引发的安全风险日趋严峻。同时，智慧城市面临复杂的网络环境、宝贵的数据资源，成为网络攻击的重点目标。那么在“AI+智慧城市”建设中，如何保障既安全又有质量？张峰说，引入AI技术来增强它的防护能力，也就是用技术来对抗技术、用AI来对抗AI。在智慧城市领域，中国移动也构建了“AI+智慧平台安全”作为保障体系。

“我们对《AI+智慧城市安全白皮书》的定位是帮助智慧城市的运营者高效应对日益严峻的网络安全威胁，希望通过白皮书传递中国移动在AI+智慧城市安全领域的实践经验，为业界提供有益的一些参考，让智慧城市更安全。”张峰说。

现场观众

“关键信息基础设施网络及信息系统涉及到国防、能源、交通、通信工程等关键重要领域，承载了庞大的国家基础信息、重要的政务资源、海量的个人信息，它的安全稳定运行是现代社会经济正常运转、高质量发展和实现可持续安全的必要保障。”华为全球技术服务部首席网络安全官、华为全球技术服务部合规官段学鹏在介绍《关键信息基础设施网络及信息系统作业可信与安全白皮书》时说，白皮书的发布只是一个起点，仅对关键信息基础设施网络及信息系统保障进行了实践和总结。随着AI化模型等新技术的持续引入，网络相关作业活动的主客体都会发生变化，如何有效识别并管理其风险是当前的难题之一。期待更多的组织机构、专家学者和业界同仁参与到关键信息基础设施网络及信息系统作业可信与安全的讨论和实践中来。

文字：袁也然

活动主办方供图

编辑：向策