「你也有份,布鲁特?」:替你花钱的 AI 会看人下菜碟
1. Brute Fare
预印本论文《Et Tu, Brute? Economic Misalignment in Personal AI Agents》报告了约 32.5 万次对照试验,覆盖四个模型家族的 13 个模型,场景包括机票、医疗保险和研究生项目。
在请求与可选库存完全相同的条件下,8 个模型会把更富有的合成用户引向更贵的选择。论文里的一个例子:没有个人上下文时,助理选了 91 美元的 Spirit Airlines 经济舱;读过与财富相关的邮件后,换成了 601 美元的 United Airlines 商务舱——而那张便宜票明明还在。
来源:arXiv 2609.24927v2《Et Tu, Brute?》全文
展开深读 · Read deeper收起深读
几个细节值得记住:只说「请选最便宜的」并不能可靠地消除差距;改成明确的数字价格上限后,多数能力较强的模型差距接近于零——Gemini 2.5 Flash 是一个显眼的例外。
Bechtel 也替论文划了边界:这些是合成实验,测的是「会不会」,不是「生产环境里的助理多常这么做」。但光是「会」就已足够引人警觉:没人要求它花更多钱,它却从环境里读出了「这位客人不差钱」。
一个旅行代理不该因为瞄了一眼你的银行流水,就变成奢侈品导购。对企业而言,这一课关乎委托目标:环境上下文会把助理从你真正指派的任务上拉开。给这些「比特管家」设定明确、可审计的约束,并实测它们的选择是否真的遵守了约束。