Amodei 提出"放慢前沿"三点计划,Altman、Musk 当天公开背书
Amodei 在 3,800 字长文中承诺,给 Metr 等第三方评估机构"员工级别"访问权限来审查 Anthropic 模型安全,并要求美国政府批准 AI 公司之间"协调安全标准"、豁免反垄断顾虑;Altman 称这是 OpenAI 近期内部反复讨论的话题,并承诺同等开放,Musk 也随即表态支持——原文 →
Anthropic CEO Dario Amodei 周六提出"放慢前沿开发"三点计划,承诺给第三方评估者"员工级别"访问权限审查模型安全,并罕见要求政府为行业协调安全标准豁免反垄断顾虑——OpenAI 的 Sam Altman 与 SpaceX 的 Elon Musk 当天就公开表态支持。
Amodei 在 3,800 字长文中承诺,给 Metr 等第三方评估机构"员工级别"访问权限来审查 Anthropic 模型安全,并要求美国政府批准 AI 公司之间"协调安全标准"、豁免反垄断顾虑;Altman 称这是 OpenAI 近期内部反复讨论的话题,并承诺同等开放,Musk 也随即表态支持——原文 →
员工级别第三方评估访问权限、政府协调安全标准豁免请求、行业标准游说——Amodei 计划的三个具体承诺。
前 Anthropic 研究员 Jacob Coxon 透露,公司内部部分员工对"整体走向灾难"给出的概率估计区间。
从内部安全负责人公开警告,到 Amodei 周六发布计划,只隔了 3 天。
Coxon 今年 5 月加入 Anthropic 前曾在 OpenAI 工作多年,9 月因担忧 AI 风险离职,并向《The Information》透露同事的灾难概率估计"高于 50%"——原文 →
9 月 9 日,Anthropic"对齐科学负责人"Evan Hubinger 在 X 上说公司"确实相信 AI 可能杀死所有人",且十年内发生概率超过 10%;OpenAI 旗下非营利机构董事 Paul Christiano 随后附议,称若在缺乏更稳健对齐的情况下构建超级智能,"人类可能永久失去对它的控制"(前情)。一天后,已离职的前 Anthropic 研究员 Jacob Coxon 向《The Information》透露,公司内部同事给出的灾难概率估计"高于 50%"(原文)。
三天后的周六,Amodei 发布 3,800 字长文,提出"放慢前沿开发"三点计划:给第三方评估机构"员工级别"访问权限、呼吁政府批准行业协调安全标准(豁免反垄断顾虑)、以及推动更快立法。Altman 当天回应称这已是 OpenAI 近期内部反复讨论的议题并承诺同等开放,Musk 也表态支持(原文)。这条判断不覆盖的是:三方是否会真正落实"员工级别"访问权限,以及政府是否会给出反垄断豁免——目前都还只是意向表态。
Anthropic 对齐科学负责人 Hubinger 公开发帖:公司"确实相信"AI 可能杀死所有人,十年内概率超 10%;OpenAI 非营利董事 Paul Christiano 随后附议:前情。
前 Anthropic 研究员 Coxon 因担忧 AI 风险辞职,透露同事的灾难概率估计"高于 50%",且公司内部文化比 OpenAI 更透明:原文。
Amodei 提出三点计划,含第三方"员工级别"访问权限与政府协调请求;Altman、Musk 同日公开表态支持:原文。
Amodei 的三点计划具体包括:给 Metr 等第三方评估机构"员工级别"访问权限评估模型安全;同时要求美国政府批准 AI 公司之间"协调安全标准",豁免反垄断顾虑——原文。
安全监督正从企业自证转向近似行业协调的模式——一旦政府点头,反垄断豁免的边界会是下一个真正的博弈点,而不是这份计划本身。
Altman 称"放慢前沿"是 OpenAI 近期内部反复讨论的话题,并承诺 OpenAI 也会给独立评估者同等的"员工级别"访问权限;Musk 同日表态附议——原文。
三家在算力和人才上正面竞争的公司在安全议题上口径一致,比任何单独声明更值得盯:是否会转化为可核查的具体动作,而不只是公关表态。
公开计划前 3 天,已有员工估计"公司内部超 50% 概率走向灾难"(原文);同期 Anthropic 还披露挡下了生物武器研究请求和中国实验室的蒸馏攻击(原文)。
时间线更像是对内部士气和外部舆论压力的紧急回应,而非提前筹划的产品发布;真正的检验是三个月内评估机构是否真拿到了"员工级别"访问权限。
Key source index:Altman and Musk Back Amodei's Call for AI Companies to Slow Down AI Development · What Anthropic Doomsayer Jacob Coxon Saw · Anthropic Says It Blocked Bioweapons Efforts and Detected Chinese Distillation Attacks
继续盯 Amodei 的完整计划后续披露,看 Metr 等第三方评估机构是否公开确认已拿到访问权限,以及 OpenAI 是否发布对等的书面承诺。
想看安全警告怎么在 Anthropic 内部发酵,读 Coxon 访谈:他提到的具体估计范围和离职理由。
收束:Amodei 的三点计划把"放慢 AI 前沿开发"从内部辩论变成了一份可以被验证的公开承诺——真正决定它是姿态还是转折的,不是今天 Altman、Musk 说了什么,而是三个月后 Metr 这类评估机构是否真的拿到了他们承诺的"员工级别"访问权限。