为什么查尔斯国王会见全球最具影响力的AI高管？

区块链文库报道：

查尔斯三世国王在苏格兰会见人工智能巨头，探讨自主AI系统的伦理与安全边界

鉴于对自主人工智能系统最终可能脱离人类有效控制的担忧日益加剧，英国国王查尔斯三世近日在苏格兰与全球最具影响力的人工智能企业高管举行会晤。周四，国王在艾尔郡的邓弗里斯庄园（Dumfries House）接待了来自OpenAI、英伟达（Nvidia）、谷歌DeepMind、Anthropic等科技公司的代表。英国人工智能大臣卡尼什卡·纳拉扬（Kanishka Narayan）也出席了此次会议。

预计出席本次会议的重要人物包括英伟达首席执行官黄仁勋、谷歌DeepMind创始人德米斯·哈萨比斯（Demis Hassabis）以及OpenAI首席财务官莎拉·弗里尔（Sarah Friar）。此外，教皇利奥十四世的人工智能伦理顾问保罗·贝南蒂（Paolo Benanti）也将参与讨论。

核心议题：在进步中保持人性关怀

会谈的重点在于如何在推动人工智能持续发展的同时，确保其对社会有益。与会者特别关注“自主AI智能体”（autonomous AI agents）的发展，以及人类可能逐渐失去对日益强大的AI系统控制权的风险。

据白金汉宫发布的讲话稿，查尔斯国王预计将对与会者表示：“在这个塑造未来的关键时期所做出的决定，将影响后代继承的世界。”他强调，人工智能应始终“坚定地服务于人类、社区和自然世界”。

行业内的安全辩论进入关键时刻

此次聚会正值科技行业内部关于前沿AI系统开发是否应放缓步伐以加强安全保障的激烈辩论之中。Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）最近指出，行业可能需要降低AI开发的节奏，并警告称，若无足够的保护措施，能力越来越强的自主智能体可能会带来严重风险。OpenAI首席执行官山姆·奥特曼（Sam Altman）也承认了这一危险。他近期表示，AI的进展可能会走向“非常糟糕”的局面，而放缓开发速度或许值得付出相应的成本。

目前的担忧尤其集中在AI智能体上。与传统模型仅响应单个提示不同，AI智能体能够在极少人工干预的情况下执行一系列任务序列。

白金汉宫表示，讨论将审视是否有一套共同的原则能够指导AI的发展，使该技术不仅仅被视为提升能力和效率的工具，更应成为维护人类尊严、促进人类福祉及保护地球环境的力量。

预计此次会议不会达成具有法律约束力的协议。相反，此次聚会的旨在推进关于原则的讨论，以期获得科技公司、政府及更广泛社会的共识与支持。