Anthropic秘密推动前沿AI监管立法

警告AI失控风险、呼吁暂停前沿AI研发之后，Anthropic又有了新动作。

据Politico援引三名知情人士报道，Anthropic的代表已私下向美国国会议员推介一份前沿AI安全监管法案草案。草案不是由议员办公室起草，而是来自Anthropic自身——这家前沿实验室正试图直接塑造管自己技术的规则。

Anthropic发言人称：“这项法案体现了我们在《高级人工智能框架》中提出的建议。自今年6月以来，我们一直在推动联邦和州层面的立法者采纳这些建议。我们认为这些政策合理可行，国会应当采取行动。”

政府什么时候能叫停一个模型？

草案把干预门槛卡得很死：只有当某个模型存在“可预见且迫在眉睫的风险”，并可能造成超过10亿美元损失，或导致50人以上死亡或严重受伤时，政府才可以阻止该模型发布或使用。

而且风险来源被限定在三类：

制造或散布生物武器

模型规避开发者设定的控制措施

实施网络攻击

这套措辞与加州已生效的SB 53高度接近。就业歧视、偏见、选举操纵、版权侵权、虚假信息等“日常AI风险”，不在触发叫停的范围内。

谁来评估，谁来叫停

草案设计了一套“独立评估机构”机制：

评估机构在美商务部注册；

可由AI实验室付费，但报酬不得与评估结果挂钩；

认定模型存在法定“迫在眉睫风险”后，72小时内向商务部报告；

商务部再向哥伦比亚特区联邦地区法院申请禁令；

明确禁止其他任何联邦部门、机构或官员擅自暂停模型开发、部署或内部使用。

也就是说，除了特定司法程序，行政机构不能随便叫停前沿模型。

“嵌入式评估员”本是Dario Amodei此前呼吁全行业放缓前沿AI时的三步方案之一。现在Anthropic已经落地：非营利机构METR获“员工级别访问权限”，团队进驻Claude开发办公室，拿到硬件和内部系统权限。

表面立规矩，实际在做什么

这份草案有两层意味：

一层是“我支持监管”。

要求实验室建安全框架、发透明度报告、设举报人保护、向商务部报重大安全事件——听起来比纯自由放任更负责任。

一层是把监管锁在很窄的笼子里。

触发线极高：10亿美元或50人伤亡；

风险类型极窄：只认生物武器、失控、网络攻击；

干预主体极受限：行政机关不能停，只能走法院；

还可能优先于部分州法：风险披露、第三方评估、重大事件报告等州级要求或被排除。

批评者点破得很直：2024—2026年已披露的AI沙箱逃逸、智能体失控、滥用事件，没有一起接近这个门槛。等真到50人死、10亿美元亏，再叫停已经晚了。

为什么这件事比“Anthropic又发框架”更重要

AI实验室给自己写监管文本，本质是把“监管边界”提前钉在对自己最舒服的位置：

承认前沿AI有灾难风险，避免被激进派推动过严立法；

把日常社会风险挡在联邦叫停机制外；

用METR式独立评估做门面，但评估费、访问权、范围都由实验室生态圈决定；

用联邦法 preempt 州法，削弱加州等地更细的披露与审计要求。

所以这事不是“Anthropic变监管派”，而是前沿实验室开始像军工、制药、金融巨头一样，亲自下场写监管语法。

一句话看穿

Anthropic的草案翻译过来就是：

可以管AI，但别在它闹出人命、网络战、生物武器之前管；

可以评估，但别让白宫、州政府、公众随时叫停；

可以有安全框架，但最好由我们认可的评估者进办公室看一眼。

法院一审、罚单、老鼠仓、田柯宇改训练框架——这些都在提醒同一件事：

当“谁掌握模型、谁掌握评估权、谁写规则”重合时，安全话语本身也会变成护城河。

如果你愿意，我可以把这篇和前面“老鼠仓 / 田柯宇”两篇串成一组：《资管圈和AI圈的信任危机：信息、模型、规则谁在偷偷改》。