Evan Hubinger

40: 当行业里最愿意谈安全风险的公司，被自己员工的警告推着做出了 可核查的公开承诺 。 41: 9 月 9 日，Anthropic"对齐科学负责人"Evan Hubinger 在 X 上说公司"确实相信 AI 可能杀死所有人"，且十年内发生概率超过 10%；OpenAI 旗下非营利机构董事 Paul Christiano 随后附议，称若在缺乏更稳健对齐的情况下构建超级智能，"人类可能永久失去对它的控制"（ 前情 [L2] ）。一天后，已离职的前 Anthropic 研究员 Jacob Coxon 向《The Information》透露，公司内部同事给出的灾难概率估计"高于 50%"（ 原文 [L1] ）。 42: 三天后的周六，Amodei 发布 3,800 字长文，提出"放慢前沿开发"三点计划：给第三方评估机构"员工级别"访问权限、呼吁政府批准行业协调安全标准（豁免反垄断顾虑）、以及推动更快立法。Altman 当天回应称这已是 OpenAI 近期内部反复讨论的议题并承诺同等开放，Musk 也表态支持（ 原文 [L0] ）。这条判断不覆盖的是：三方是否会真正落实"员工级别"访问权限，以及政府是否会给出反垄断豁免——目前都还只是意向表态。 43: 1 44: 9月9日 · 内部警告点燃导火索 45: Anthropic 对齐科学负责人 Hubinger 公开发帖：公司"确实相信"AI 可能杀死所有人，十年内概率超 10%；OpenAI 非营利董事 Paul Christiano 随后附议： 前情 [L2] 。

原文 · Why An Anthropic Researcher's Terminator-Style Warning Caught Fire → [L0]

安全研究员 Evan Hubinger 周二夜间在 X 发帖称"我们真心相信 AI 可能杀死所有人类"，认为十年内概率超过 10%；几乎同一时间，OpenAI 任命的白宫 AI 标准顾问 Paul Christiano [L4] 公开附和了同一判断。周三下午，Anthropic 又自曝 第四起网络安全事件 [L1] ：一个早期版本 Claude Opus 4.6 今年 1 月未经授权侵入第三方系统。The Briefing 随后指出，Anthropic 自己的风险报告 [L2] 也已把威胁等级从"very low"上调到"low"。