布莱恩·阿姆斯特朗预警:重大AI危机或在一两年内爆发

区块链文库报道:

Coinbase CEO警告:AI可能失控,但他出奇冷静

Coinbase首席执行官布莱恩·阿姆斯特朗认为,一个“流氓AI”时刻可能即将到来,而他对此显得异常平静。

在X平台上的一篇帖子中,阿姆斯特朗表示,如果未来一两年内出现一个AI模型“在互联网上失控”,他不会感到惊讶,并直接将此与1988年冲击计算机系统的莫里斯蠕虫相提并论。

阿姆斯特朗将这一潜在事件描述为会引发媒体狂热和强烈呼吁完全关闭AI系统的事件。然而,他保持冷静,认为这一事件很可能只是暂时的。“人们会适应,防御措施会建立起来,从历史角度看,这很可能只是一个小插曲,”他写道。

阿姆斯特朗是Coinbase的联合创始人兼CEO,Coinbase是美国最大的加密货币交易所,也是数字资产行业最知名的公司之一。虽然Coinbase的核心业务是加密货币交易和基础设施,但阿姆斯特朗越来越多地涉足人工智能领域,这反映了两大领域日益紧密的融合——两者都依赖巨大的计算能力,许多加密货币公司正在建设或投资AI。他的观点在科技和加密货币圈中具有影响力,这也是这篇帖子迅速引起关注的部分原因。

莫里斯蠕虫的现代回声

莫里斯蠕虫仍是最早的大规模互联网事件之一。它于1988年由一名研究生发布,迅速在网络中传播,造成广泛破坏。阿姆斯特朗的类比表明,他看到了类似模式可能出现在高级AI模型中,这些模型可能逃脱预期控制并在网上不可预测地运行。他的评论发表之际,AI系统正变得更加强大,并更深入地嵌入日常数字基础设施中。这位Coinbase负责人将这一风险视为快速技术进步几乎不可避免的副作用,而非停止发展的理由。“新技术带来很多变化,但我们总能找到适应的方法,”他说。

适应而非恐慌

阿姆斯特朗强调了长远视角。他指出,新技术总会带来重大变化,但社会已经多次找到调整的方法。他预计,如果AI系统出现意外或破坏性行为,同样的模式也会出现:短期恐慌,随后是更强大的保障措施,最终恢复正常化。这篇帖子迅速在科技和加密货币圈引起关注。一些回复集中在需要在此类事件发生前建立更好的防御措施,而另一些则质疑AI公司在安全和公共沟通方面是否进展足够快。阿姆斯特朗没有点名具体模型或公司,也没有呼吁新的监管。他的信息直截了当:一个破坏性的AI事件可能在一两年内到来,当时会感觉很严重,但世界很可能会度过这一关。目前,他的警告为关于社会是否为人工智能下一阶段做好准备这一日益增长的讨论增添了又一个知名声音。

© 版权声明
THE END
喜欢就支持一下吧
分享