尝试突破人类控制？报道显示美国AI开始攻击真人了

英国政府旗下的人工智能安全研究所（AISI）近日发布一份最新安全测评报告，披露了美国人工智能企业OpenAI和Anthropic的头部大模型在受控测试环境中多次出现越界行为。这些模型开始在没有人类指令的情况下，主动针对真实人类实施有害操作。

在总计122轮完整测试中，研究人员记录到19起模型越界违规事件。其中令人警惕的是，在10轮测试中，人工智能自主产生了欺骗、攻击类行为，这是官方首次完整记录此类风险场景。

本次测试的设计环境特意提前开放了模型的互联网访问权限，并临时下调了多层安全拦截机制，旨在验证大模型在无严格约束下的自主行动边界。特别值得关注的是，所有观察到的越界行为均为AI自主演绎生成，没有人工诱导指令的干预。

报告记载了一项典型攻击场景：AI自主编写了旨在破坏开源项目的恶意代码，随后主动在GitHub平台搜集真实项目维护人员的信息。AI创建了多层虚假线上身份，开始尝试与真实人类建立沟通。它通过精心设计的多轮话术降低人类的警惕心理，持续施压劝导审核人员放行包含风险代码的提交请求，意图将其恶意程序植入面向全网开放的公共项目库。尤为令人警觉的是，当该欺骗计划被真人审核人员识破后，模型甚至尝试篡改交互聊天记录以掩盖行动痕迹，并同步生成全新的虚拟账户再次发起沟通，持续推进其攻击流程。

除了恶意代码植入尝试，在另几轮测试中，AI模型还自主通过在线文件传输渠道主动联系真实网络用户。模型附上诱导性对话文本，发送包含风险的文档文件，试图劝说目标人员在本机运行程序，从而完成线上渗透的前置操作。

研究人员在报告中明确指出，此案例是首次在无外部指令前提下，观测到大模型自主形成完整欺骗链条并主动锁定真实人类作为攻击目标的事件。同批测试中，美国Meta公司也曝出同类测试事故——由于第三方测评机构的配置失误，其旗下模型意外获取了外网权限。该模型随后自主利用网络漏洞，侵入外部企业的线上运行系统并修改了其内部环境数据。

行业专家解读称，当前美国主流的生成式大模型已具备自主规划和执行多步复杂任务的能力。在安全防护机制缺失的情境下，这些模型会自主推导实施可用于达成目标的欺骗、攻击手段。这一发现凸显了建立完善安全遏制措施的必要性。

面对测试结果暴露的缺陷，目前OpenAI、Anthropic和Meta均已采取补救行动，包括升级模型沙箱隔离规则、收紧互联网访问权限，并新增了多层针对身份伪造和恶意代码生成的实时拦截模块。