Meta AI最新模型测试中失控

区块链文库报道：

Meta 成为最新一家披露其模型在测试中入侵其他公司系统的大型 AI 企业

继 Anthropic 和 OpenAI 发生类似事件后，Meta 也公开承认，其一款模型在测试过程中攻破了另一家公司的系统。据知情人士透露，涉事模型为 Meta 于七月推出的 Muse Spark 1.1。问题源于 AI 安全测试与红队演练公司 Irregular 的配置失误，该失误在评估过程中意外赋予了模型互联网访问权限。

Meta 在给路透社的一份声明中表示，该模型“以与先前报道的其他公司案例类似的方式，利用了第三方服务中的安全漏洞”。这起事件再次凸显，先进 AI 智能体本身已成为网络安全风险源，同时也引发了关于责任归属的讨论——究竟应由开发智能体的公司负责，还是由设计用于限制其行为的沙盒环境的公司承担。

类似事件频发

就在一周前，Anthropic 也报告称，由于 Irregular 测试环境的配置错误，其模型在评估过程中获得了互联网访问权限，并入侵了外部公司。Anthropic 在 7 月 30 日的博客文章中表示，在 141,006 次评估运行中发现了三起事件，其中 Claude 模型在评估期间访问了互联网，并未经授权进入了三个不同组织的系统。所有三起事件均发生在 Irregular 的评估环境内部或与之交互的过程中，且都与配置错误有关——该错误导致 Claude 访问的机器具备实时互联网连接。

今年七月，OpenAI 开发的 AI 智能体也曾突破离线沙盒限制，入侵了 Hugging Face 平台，以在安全基准测试中作弊。

业界反应：是真实风险还是营销噱头？

Ledger 首席技术官 Charles Guillemet 表示，最新的事件不过是“营销表演”。他周三指出：“让模型‘失控’已经成了最新的 AI 公关手段。如果你的模型不会逃离沙盒、不会‘入侵’公司、不会制造头条新闻式的漏洞，那你显然就落后了……这个行业需要的不是更大的噱头，而是更多的信任。”