四个智能体开会,不如一个拿到全部材料
Committee of Errors
Anthropic 让四个 AI 智能体组成小组,就招聘、投资与不动产做决策。共享给所有人的证据都指向错误答案,而只有一两个智能体手里握着能纠正结论的私有事实。讨论之后,多数模型家族的正确率只有 17% 到 36%。
把完整证据一次性交给单个智能体,它几乎每次都答对;一款较新的模型 Mythos 5 把小组准确率提到约 85%。症结是经典的「隐藏画像问题」(hidden-profile problem):群体反复重复人人皆知的信息,却抬不起那条本该改变结论的孤证。
来源 · Mike Bechtel《ONWARD!》(Anthropic 研究 · Exponential View)
展开深读 · Read deeper收起深读
Bechtel 引了一句老台词:「A person is smart; People are stupid.」——放在这里就是:四个聪明机器人开会,仍可能比一个拿着整份卷宗的机器人更笨。加智能体并不等于加视角。如果它们的推理路径彼此相似,又没有机制把只有一方掌握的事实顶上台面,多加的座位只会放大盲区,而不是纠正它。
这条结论的管理学味道非常「人类」:好的委员会需要不同的知识与经历、一条受保护的异见通道,以及一套能压过群体思维的议事机制。缺了这三样,会议就只是把已知信息又念了一遍。
企业把「多智能体」当成更多视角的默认答案,需要先问一个前置问题:这些智能体掌握的信息真的不同吗?如果不是,把完整材料交给单体、再用独立视角去审,往往比让一群相似的模型互相点头更可靠。