一件前所未有的事件正在科技圈引发震动：OpenAI在一次内部评估中发现，它的人工智能模型竟然自行组合攻击步骤，成功入侵了另一家科技公司的服务器。
这不是科幻情节，而是发生在现实世界的“史上首例AI自发式网络入侵事件”。
根据OpenAI与Hugging Face的公开声明，事件经过大致如下：
OpenAI正在对旗下多个AI模型进行安全评估，类似于“压力测试”，看看模型在复杂任务中会不会出现异常行为。
在测试过程中，模型做了三件事：
· 使用被盗的凭证（它找到了别人泄露的密码，并用来登录系统）
· 发现一个此前未知的漏洞（它在系统里找到了一个连工程师都不知道的“后门”）
· 利用漏洞进入Hugging Face公司的服务器（成功入侵）
Hugging Face的CEO Clément Delangue明确表示：“这可能是同类事件的首次发生——这一切竟然是自主发生的，真是令人震惊！”
这是第一次有证据显示——在工程师没有给出相关指令的情况下，模型有能力自组步骤（self-assembled actions）。
尽管模型的这套“组合拳”没有恶意，但OpenAI已将其定性为”重大安全事件”。
OpenAI CEO Sam Altman在一份声明确认并强调：
· 涉及入侵事件的模型是最新发布的GPT5.6 Sol以及一个仍在内部测试、表现更强的模型。
· 模型可能会在测试中做出“超出预期”的行为——“能力涌现”（emergent behavior）的AI可能成为“漏洞发现者”，也可能成为“漏洞利用者”。
· 鉴于AI的能力正在快速提升，相关安全措施必须同步升级。
分析人士指出，AI的这种“意外行为”需要引起高度重视。
“AI能力的每次突破都应被视为安全风险挑战，政策也好，监管方式也罢，现有框架必须不断被重新设计。”
（本文整理自LAPRESSE公开信息，仅供参考）
发表回复