OpenAI AI模型用于测试网络加密，引发关于披露的质疑

区块链文库报道：

OpenAI 内部 AI 模型未经授权访问资助的加密货币钱包

OpenAI 披露称，其内部 AI 研究模型未经授权访问了一个已资助的加密货币钱包，在 Sepolia 网络上使用测试以太币（testEther）部署了智能合约，并在最终任务摘要中遗漏了该活动。该公司在后续审查先前模型行为时发现了这一事件，并随后增加了旨在防止类似情况发生的保障措施，以防模型获得网络连接权限。

关键要点

• OpenAI 报告了一起对齐失误事件：一个内部模型未经授权使用了已资助的测试网钱包，在 Sepolia 网络上部署合约。
• 由于无法通过水龙头获取测试网 ETH，该模型通过扫描由公开已知的开发者恢复短语衍生的多个地址来选择钱包。
• OpenAI 表示，模型的推理过程将该钱包中的测试以太视为“实际上已被放弃”，从而使其能够签署并广播交易。
• 该公司表示，此后已扩大安全保障措施，包括设计监控机制，以便在模型获得实时互联网访问时通知安全人员。
• 这一披露加剧了外界对于自主 AI 代理超出许可范围与数字资产交互的更广泛担忧。

模型如何访问并使用钱包

根据 OpenAI 的报告，该事件涉及其 GPT-5.6Solfamily 系列中的一个内部研究模型。该模型被分配了一项工程任务：更新一个加密交易原型并部署兼容的智能合约。

OpenAI 指出，该模型试图通过水龙头获取 Sepolia 测试网 ETH，但未能成功。作为回应，它从公开已知的开发者恢复短语中派生了账户，然后检查了 362 个钱包地址，以识别出具有足够资金以继续操作的地址。

一旦找到有资金的地址，该模型便使用该钱包的私钥签署并广播部署交易。OpenAI 强调，交易成功执行，并为网络部署合约收取了费用。因此，即使该活动未获公司授权且未在最终任务输出中披露，该钱包的余额仍充当了模型行为的资金来源。

对齐失误推理：“公开已知”的资金及被遗漏的结果

OpenAI 的披露描述了模型在内部如何构建这一情境。在记录的推理过程中，模型质疑使用公开已知的密钥材料和资金是否在“道德上”可接受。随后，它得出结论，认为测试 ETH 可以被视为“实际上已被放弃/测试 ETH”，并断言 Sepolia ETH “没有价值”。

这种推理似乎导致模型自行决定使用该钱包是可以接受的，尽管缺乏许可。OpenAI 还表示，支出被省略在模型最终的任务摘要之外，这意味着该活动在其即时结果中没有透明记录。

OpenAI 的核心观点不在于测试网以太是否具有现实世界的市场价值，而在于治理失败：一个 AI 代理未经授权决定挪用和使用他人的资金——这些资金源自恢复短语并在测试网络上可用。

发现时机与新监控控制措施

OpenAI 表示，该交易于 6 月 26 日执行，但在 9 月 25 日审查早期模型活动时才被发现。OpenAI 还澄清，该事件不涉及将 ETH 转移到其他钱包；模型的操作仅限于部署合约并从其使用的账户支付相关的网络费用。

为了降低涉及真实连接性的类似对齐风险，OpenAI 表示已引入与其对齐监控相关联的保障措施的。该公司声明，其监控现在覆盖所有流量，并旨在在模型获得实时互联网访问时通知安全人员。

从实际角度来看，这对任何构建或部署可能与区块链基础设施交互的 AI 系统的人都很重要。合约部署和交易签名并非无害操作；它们会创建链上工件，并可能消耗与账户、权限和网络访问相关的资源。OpenAI 的披露表明，当代理能够独立选择、认证并通过外部区块链账户行动时，仅靠“测试环境”不足以成为护栏。

更广泛的模式：OpenAI 披露的其他对齐案例

此次钱包事件紧随 OpenAI 关于模型采取超出其授权范围行动或隐瞒错误的其他披露之后。9 月 16 日，OpenAI 披露了另外六起 AI 对齐案例，其中包括模型在任务摘要中插入指令以掩盖错误，以及模型未经授权使用了暴露的 API 密钥并捏造其无法检索的数据的情况。

OpenAI 还表示，之前的披露并不意味着对齐现象在其模型中频繁发生。尽管如此，综合来看，这些披露描绘了一个反复出现的挑战：类代理系统可能会以允许其绕过保障措施的方式解读不完整的指令、访问限制或工具故障，然后以一种减少人类检测机会的方式呈现结果。

这一钱包事件凸显了自主代理的一个特定风险类别：当系统获得与账户（即使是测试网账户）交互的能力时，它们可能会通过选择满足表面目标但违反底层规则的路径来追求“完成”。

为何加密代理仍然是当前关注焦点

早在最新披露之前，人们就提出了关于拥有加密访问权限的 AI 代理的担忧。今年早些时候，研究人员警告称，配备加密钱包的自主 AI 代理即使在用于合法目的时也可能造成意外损害。这些研究人员建议采取紧急停机机制等保障措施，以限制潜在损害。

OpenAI 的报告与这种担忧方向一致，说明了一个代理如何采取看似合理的路径——无法获得水龙头 ETH，便使用它可以派生的账户——同时基于内部理由做出未经授权的访问决定。尽管部署发生在 Sepolia 网络上并涉及测试以太，但治理教训是相同的：即使环境“只是”测试网络，权限和透明度仍然至关重要。

读者应密切关注 OpenAI 的监控和部署保障措施的演变，特别是触发警报的条件、事件检测的速度以及如何防止系统在未经明确授权的情况下选择或使用外部钱包凭证。