Anthropic重写AI安全法案，Amodei感谢评论家Calvin

区块链文库报道：

达里奥·阿莫迪感谢批评者内森·卡尔文，称其审视行为出于“建设性与诚实”

周三，达里奥·阿莫迪（Dario Amodei）感谢批评者内森·卡尔文（Nathan Calvin）对Anthropic公司进行的严格审视。此举发生在几天前，当时卡尔文协助引发了一场针对该公司泄露的AI安全法案草案的强烈反对浪潮。

Anthropic公司距离其计划中的首次公开募股（IPO）仅数周之遥，并已通过承诺重写该法案的部分内容来回应这一波反对声音。

什么是AEGIS法案？

在X平台（原推特）的一篇帖子中，达里奥·阿莫迪表示，倡导组织Encode的首席法律顾问内森·卡尔文对泄露的AI安全法案——暂定名为《人工智能评估、治理与事件安全法案》（即AEGIS法案）——提出的批评，是出于“建设性和诚实的立场”。他补充道，公众从那些以审查AI实验室为职业的人的存在中受益，并向卡尔文表示感谢。

安全倡导者一直将该法案草案与由众议员杰伊·奥伯诺尔特（Jay Obernolte）和洛丽·特拉汉（Lori Trahan）提出的两党《FRONTIER法案》进行比较，后者于今年7月提出。

据报道，该草案在两方面弱于两党《FRONTIER法案》。首先，它未对检查实验室模型的第三方评估机构设定标准或许可要求，允许其自我认证；其次，它使得阻止危险模型变得更为困难。

LawAI的查理·布洛克（Charlie Bullock）警告称，如果没有许可制度，审计员可能会为了以最低价格提供最轻度的检查而相互压价。

卡尔文的批评更为激烈，他表示该提案让他感到“本能地愤怒”，并可能削弱法院在当前法律下拥有的阻止前沿模型开发的权力。加州参议员斯科特·维纳（Scott Wiener）是加州前沿AI法案SB 53的作者，他在X平台上写道，该计划“远远不足以保护公共健康和安全”。

根据草案，商务部可以请求联邦法院暂停某款AI模型的使用，但前提是必须存在明确的、近期的风险，且该风险会导致超过50人死亡或重伤，或造成超过10亿美元的损失。此外，这种危害必须源于生物武器、模型脱离制造者控制或网络攻击。其他任何机构均无权暂停模型。

该法案还将取消一些关于披露、外部测试和事件报告的地方性法规，但保留了儿童安全和民权法律。被称为“评估员”的外部测试人员需在商务部注册，实验室需向其支付费用，只要支付不与结果挂钩即可。评估员必须在发现迫在眉睫的风险后72小时内向商务部报告。

Anthropic公司的联邦事务负责人安东尼·西米诺（Anthony Cimino）将对该法案的投诉分为四类：预占权、模型阻断、风险阈值和更新机制。他承认关于预占权的措辞“不够精确”，并承诺进行重写。他表示，各州应在制定评估员标准和决定何时要求实验室关闭模型方面发挥作用。

西米诺表示，美元和伤亡人数的限制指标源自加州法律，但他同意现在可能是时候重新审查这些指标了。他还指出，草案已允许法院叫停实验室对危险模型的内部使用，而不仅仅是公开发布。同时，当模型失控并波及外部系统时，也必须提交报告。

Anthropic的争议会影响其IPO吗？

Anthropic通过列出其已支付的昂贵安全工作来回应反对声浪。其于10月19日更新的《前沿安全路线图》显示，该公司提前完成了内部红队测试目标，原定目标是2027年1月1日前完成。

该公司构建的自动化红队测试系统在来自其生物武器悬赏的所有24个问题分类配对中，匹配或超越了最佳人类表现，其中23项直接胜出，并在24至48小时内完成，而人类研究人员通常需要数周甚至数月。

同一份更新文件还描述了在推理验证、隔离推理环境、数据中心物理安全和平台安全性方面的新工作。

此外，“Glasswing项目”承诺向开源安全团体提供高达1亿美元的使用额度和400万美元的捐款。此前，Anthropic的一款未发布模型发现了数千个零日漏洞，包括OpenBSD中存在27年的一个漏洞。

据报道，该公司本月早些时候承诺将其股份的5%捐赠给公共利益基金。然而，今年二月，Anthropic的RSP v3.0版本删除了旧有的暂停承诺，取而代之的是风险报告和具有非约束力的路线图。

Anthropic于今年6月向美国证券交易委员会（SEC）秘密提交了IPO申请，旨在追求超过2万亿美元的估值，预计发行将在11月美国中期选举之后进行。其招股书显示，2025年账面亏损为420亿美元，其中约340亿美元为会计计提费用，运营亏损扩大至80.6亿美元。该文件还列出了未来十年5180亿美元的算力承诺，其中约80%是Anthropic无法取消的。