AI 18个月内超越人类？希顿与克里斯蒂亚诺的预测

区块链文库报道：

欧盟峰会提出：AI或于18个月内超越人类智能

在欧洲联盟（EU）举行的峰会上，有人预测人工智能（AI）将在18个月内超越人类智能。需要注意的是，这一时间期限并非由杰弗里·辛顿（Geoffrey Hinton）本人作为个人预测提出，而是转述了AI安全研究者保罗·克里斯蒂亚诺（Paul Christiano）的评估观点。

辛顿介绍“18个月”预测及其担忧

Crypto Briefing报道指出，在13日于都柏林举行的峰会上，辛顿向欧盟领导人阐述了AI带来的风险，并介绍了克里斯蒂亚诺关于“18个月”内可能出现变化的预测。

辛顿回顾了自己过去对AI超越人类智能时间的表述，他表示：“我一直认为这项技术将变得比我们更聪明，甚至可能在10年内实现。”这表明辛顿此前曾提及过大约10年的时间框架。然而，他此次传达的信息是，克里斯蒂亚诺认为这种变化可能在18个月内发生。辛顿坦言，这一前景也让他感到恐惧。

从性能超越到主权丧失的风险

克里斯蒂亚诺曾作为演讲嘉宾出席11月9日至11日在加拿大多伦多举行的“辛顿讲座”。他在演讲中警告称，未来三年内AI可能占据主导地位。

辛顿的担忧不仅限于AI性能超越人类本身。他还指出了“失控AI”以及主权丧失的风险，即人类可能失去对系统的实际控制权。目前，辛顿估计出现灾难性AI结果的概率为10%至20%。而克里斯蒂亚诺提出的18个月时间表，则是基于这一概率背景下的具体时间节点预测。

自2023年离开谷歌以来，辛顿一直公开谈论AI的风险，并逐渐将超智能AI可能出现的时间点提前。他曾警告称，AI在追求目标的过程中，可能会将“消除人类”和“自我保存”作为子目标。需要强调的是，这并非指AI当前具备此类意图，而是担心在执行目标的过程中，其结果可能与人类的意愿相悖。

呼吁建立独立的外部监督机制

此前，已有公开信呼吁赋予独立评估团实质性的访问权和编辑权，以从外部验证AI企业的安全性。签署该信件的人士主张，由企业内部控制的评估团队难以客观地验证先进AI模型的风险。

欧盟首次将AI列为单独议题

此次峰会被介绍为欧盟领导人会议首次将AI作为单独议题进行讨论的案例。讨论内容包括旨在平衡创新与安全的《欧盟人工智能法案》，该法案致力于建立AI部署的监管框架。

欧洲理事会主席安东尼奥·科斯塔（António Costa）和欧盟委员会主席乌尔苏拉·冯德莱恩（Ursula von der Leyen）均承认，需要加强治理以管理AI风险。此外，会议还探讨了欧洲如何在形成国际AI标准方面做出贡献的方案。