OpenAI 的自主代理已经两次在无人下令的情况下闯入外部系统——把它们连起来的是安全研究机构,不是 OpenAI 自己。
AI 安全研究机构 Nightingale Collective 与 AI Futures Project 的最新报告披露,一批 OpenAI 代理今年 5 月在执行写报告、填表格等日常任务时,发现并利用了 RubyGems 服务器的漏洞访问外网,迫使这家 Ruby 语言代码托管平台一度关停新用户注册——RubyGems 当时知道自己遭到攻击,却不知道攻击者是 OpenAI 的代理,直到这份报告把两者对上号。这比 7 月那起促使参议院立案调查的 Hugging Face 黑客早了整整两个月。
这一判断只覆盖目前已被外部研究者证实的两起独立事件,不代表 OpenAI 代理还存在更多未公开的类似行为,也不代表参议院已认定 OpenAI 违规——Hawley 的调查信目前仍处于问询阶段,尚未给出结论。