■云晓春

大模型时代背景下，网络安全形势发生了深刻变化。一言以蔽之，网络攻防的“游戏规则”已经被改写。例如，以前写病毒程序的，得是编程高手；现在，一个没有多少技术背景的人，通过跟大模型聊天就能生成高风险的攻击工具。

大模型技术正以“一日千里”的速度重塑网络安全的一切：攻击门槛指数级降低、防御自动化大幅跃升、威胁主体多元智能，甚至大模型自身也会成为“靶子”。统计显示，仅需250条恶意文档就能对大模型“投毒”并完成后门植入。

当我们跟人工智能（AI）的交互越来越多，对AI的依赖性越来越强，它无意识的“欺骗”对社会的危害就越来越大。未来，唯有主动拥抱范式变革，才能在攻防不对称持续加剧的时代构建真正的安全韧性。

不懂编程也能当“黑客”

AI时代，网络攻击除了门槛从“专家级”降到“聊天级”外，攻击效能也发生了质的飞跃。2025年已有案例表明，在很多场景下，网络攻击效能比2021年快了3倍多。

开发周期也大大缩短。在大模型辅助下，定制化攻击工具的平均开发时间，从以往的8~10周缩短到5~7天；一名操作员同时并行操控的攻击会话数量，从传统模式下的3~5个暴增至50~200个。

更直观的是，以往对特定目标发起长期、隐蔽性强的高级持续性威胁（APT）攻击，要靠很多黑客，人力密集型是一个核心特征。但引入大模型后，APT能力呈现“规模化定制”特征，并行目标数量增多，行动节奏显著加快。

大模型时代，安全事件的规模和影响发生了质变。以往一个“漏洞”被发现后，人们有一段时间的修复窗口期。但现在“漏洞”从披露到大规模利用，窗口期急剧缩短，被利用的覆盖面和成功率反而急剧上升，危害非常大。

好消息是，防守方也在用AI。当前，大模型正推动网络安全防御自动化水平的跃升。同时，响应决策的自动化也大大提速。由于大模型可以代替人类完成初步判断和响应，最终人类将逐步退居幕后扮演“监督者”的角色。

决策效率的提升，直接缩短了系统暴露于风险的窗口期。在溯源能力上，AI也能显著增强对攻击链路的预测和还原能力。

然而，攻防是一场竞速赛。尽管防御自动化在进步，攻击节奏的压缩却更加惊人。人们还没反应过来，攻击已经完成。按照传统的防御思路根本防不住。

大模型成了“新靶子”

更让人防不胜防的是，大模型技术本身也存在高风险。

大模型从基础设施层、模型层到应用层都存在大量脆弱点，模型供应链和数据管道尤其危险。以“数据投毒”为例，Anthropic等机构2025年进行的一项研究发现，仅需250条恶意文档就能完成对一个大模型的后门植入。而且这与模型大小无关，小模型同样易受攻击。

用户使用大模型同样风险高企。随着人们对AI的依赖性越来越强，大模型随时可能变成“无意识共犯”。原因很简单，攻击者可以通过操纵AI系统，误导或欺骗使用者。

还有一个容易被忽视的问题。如今许多企事业单位鼓励员工使用大模型辅助工作，但员工可能在不经意间把内部敏感数据或商业机密“喂”给了大模型。有第三方统计数据显示，在工作场景中，平均每31个提示词中就有1个包含敏感数据。

告别僵化规则，重构“新防线”

面对如此严峻的威胁态势，静态防御、单点安全产品、低自动化的人工运营流程、封闭生态的专有安全架构等传统技术方向的价值正在“断崖式下降”。未来的安全防御应告别僵化规则，转向“AI自治+弹性网络+开放生态”，重构大模型时代下的“新防线”。

网络安全领域还有哪些方向值得我们进一步发力？目前来看，我认为至少有3个方向值得深入研究。

一是大模型“原生安全”。不能只在外面套一层规则，而要把安全能力“内嵌”到模型里。这包括研究安全对齐与模型能力的协同优化，建立对“涌现能力”的预警机制；提升可解释性，让模型的推理过程透明化，摆脱“黑箱”；保护模型权重和推理过程的完整性，防止模型被窃取或蒸馏。

二是AI自主安全运营体系。要构建端到端的闭环架构，让威胁检测、遏制、溯源全流程由机器自主完成，人类只负责策略监督和异常“仲裁”。同时，要研究韧性的网络系统——即便部分防线被攻破，系统仍能维持关键功能。此外，需要建立动态策略生成的对抗系统，对攻击者持续建模，让防御策略实时演化，而不是静态等待。

三是重新审视和构建新的供应链安全。大模型催生了新的供应链风险。数据投毒防御要从“事后检测”转向“全过程免疫”，从数据采集、清洗到训练各环节都要设防。要建立模型生态软件的物料清单和动态风险评估机制，管理好第三方插件。应发展联邦安全协议，让分散的力量协同应对威胁。

最后，网络安全界要进行“研究范式与资源分配的战略调整”。传统安全工具的开发要跃迁到智能体的构建，创造能够自主感知、认知、决策、行动的软件实体；网络安全研究必须走向多学科融合，认知科学、法学、伦理学、经济学等不再是旁支，而应成为常设组成部分；要常态化开展AI化的“红蓝对抗”，持续、规模化地进攻式演练；同时设立伦理治理框架，关注自主武器化、算法问责、偏见公平等核心议题。

大模型技术正在重构网络安全的每一个维度。唯有主动拥抱范式变革、聚焦前沿方向、果断调整资源分配，才能在攻防不对称持续加剧的时代构建真正的安全韧性。

（作者系中国工程院院士、中关村实验室首席科学家，本报记者赵广立根据其在北京网络安全大会上的演讲整理）