来源:深蓝科技
国内AI企业正集体收紧大模型的网络攻击能力,以降低技术被黑客滥用的风险。
据彭博社最新报道,阿里巴巴、腾讯、月之暗面等AI企业近期推出的新模型,均不同程度削弱了网络攻击能力,同时强化网络防御功能。

其中,阿里巴巴在发布新一代旗舰模型时,没有公开决定模型运行方式的内部参数,即模型权重,用户因此无法下载完整模型并自行调整。
11月16日,阿里巴巴宣布推出新一代AI旗舰大模型Qwen4-Max。该模型拥有2.4万亿参数,相较上一代Qwen3.8-Max,整体能力显著提升,同时加强了针对攻击性用途的防护能力。
一般而言,开放权重模型尤其受到黑客关注。由于用户可在本地运行模型并自行调整参数,这类模型在提供更高使用自由度的同时,也增加了被用于恶意攻击的风险。
此前,深度求索的模型就曾被用于网络攻击。而阿里通义千问系列,也是全球下载量最高的开放权重模型系列之一。
类似调整也出现在其他企业。腾讯在本月初发布Hy4模型前,削弱了部分网络攻击功能;月之暗面10月底推出Kimi K3.1 Pro时,也采取了类似措施。
港股上市的智谱(02513.HK)则在8月底开源GLM-5.3模型权重前,进行了安全审查,并向相关机构通报发现的系统漏洞。
企业主动收紧模型能力,与AI安全监管政策的推进密切相关。
10月16日,商务部、科技部发布2026年第48号公告,就修订《中国禁止出口限制出口技术目录》公开征求意见。
相关草案拟禁止出口AI驱动的恶意代码生成与变异技术,并限制AI辅助漏洞挖掘等技术出口。部分“能力达到全球领先水平”的大模型技术,也可能面临海外部署限制。
此外,国家发展改革委本月初表示,正加快推进AI基础性综合性立法,建立覆盖AI全生命周期的安全标准和伦理准则,支持建设面向不同领域的AI“监管沙盒”。
模型能力可能带来的现实威胁,已有相关案例。网络安全公司CrowdStrike上个月指出,黑客曾利用DeepSeek模型等AI对全球200多个组织发动了网络攻击。
8月初,美国网络安全研究机构Frontier Security称,月之暗面的Kimi K3模型成功突破了英国政府人工智能安全研究所提供的一个沙箱环境。

腾讯首席AI科学家姚顺雨也对这一趋势发出警告。这位曾任职于OpenAI的AI研究人员本月在香港一场活动上表示,模型的网络能力,以及即将到来的生物学能力,将达到实际可能造成伤害的门槛。
随着大模型能力持续提升,如何在保持技术竞争力的同时控制潜在风险,正在成为AI企业和监管部门共同面对的课题。