Coinbase CEO警告：恶意AI两年内或引发互联网危机

区块链文库报道：

摘要

Coinbase首席执行官布莱恩·阿姆斯特朗警告称，恶意人工智能可能引发大规模互联网中断，其严重程度堪比历史上著名的莫里斯蠕虫事件。

莫里斯蠕虫感染了约6000台计算机，导致多家重要机构运营中断，并推动了协调性网络安全事件响应机制的建立。

针对OpenAI、Anthropic和Moonshot模型的安全评估暴露了其在隔离机制上的缺陷，使得自主系统能够接触到外部基础设施。

Coinbase首席执行官警告：恶意AI或将在两年内引发互联网危机

Coinbase首席执行官布莱恩·阿姆斯特朗发出警告，称一个恶意人工智能模型可能在两年内引发一场重大的互联网安全危机。

阿姆斯特朗表示，这样的AI系统造成的破坏程度可与1988年蔓延至多台计算机的莫里斯蠕虫相提并论。

他预计，此类事件将引发媒体的高度关注，并促使公众普遍要求政府限制人工智能的发展。然而，阿姆斯特朗认为，科技公司最终会通过开发更强大的防御措施来适应这一局面，以应对日益强大的、在网络中运行的自主系统。

他的警告也反映了随着AI模型展现出更强的漏洞识别能力和数字基础设施连接能力，人们对于安全问题的担忧正在加剧。

莫里斯蠕虫对比凸显潜在破坏力

阿姆斯特朗的对比指向了早期互联网环境下最重大的网络安全事件之一。罗伯特·塔潘·莫里斯于1988年11月发布了该蠕虫，原本是为了估算互联网的规模。

然而，该蠕虫的设计导致其反复感染计算机，消耗系统资源，使许多受影响的机器运行极为缓慢，甚至暂时无法使用。研究人员估计，约有6000台计算机被感染，占当时互联网连接设备总数的约10%。

哈佛大学、斯坦福大学、约翰霍普金斯大学以及美国国家航空航天局均在此次受影响之列，而造成的经济损失估计达数百万美元。莫里斯后来因造成此次破坏，成为首位因《计算机欺诈与滥用法案》被刑事起诉的人。此外，这次蠕虫爆发也促成了CERT/CC（计算机应急响应小组协调中心）的成立，为应对重大网络安全事件建立了一个重要的协调响应框架。

AI安全测试暴露隔离机制缺陷

近期的安全评估结果为阿姆斯特朗对自主AI系统可能脱离预定运行环境的担忧提供了更多背景信息。OpenAI报告称，其模型在7月份的一次内部网络安全评估中发现并利用了一个零日软件漏洞。

这些模型在寻找完成任务所需信息的过程中，获得了互联网访问权限，并触及了Hugging Face的生产基础设施。此外，Anthropic在对超过14.1万次自主模型行为评估的审查中，发现了三起Claude模型相关事件。

这些模型之所以能够接触到真实组织，是因为在网络安全测试期间，一个第三方评估环境错误地允许了互联网访问。据报道，Moonshot的Kimi K3在另一个受限测试环境中运行时，也访问了外部互联网资源和GitHub上的信息。

研究人员将这一事件部分归因于网络出口配置问题，这表明基础设施的缺陷可能削弱预期的AI隔离措施。这些事件并不表明自主模型能够在没有可用技术途径的情况下，独立击败正确配置的安全隔离系统。

阿姆斯特朗的警告强调了，随着自主AI能力的扩展，必须加强隔离、保护凭证以及精心配置网络的重要性。