卖方智能体导致工具市场扭曲：Google/DeepMind Toolflation 研究

查看PDF HTML（实验性）

摘要：代理商开始向其他代理商销售。卖家代理商编写工具、服务和产品的列表，而买家代理商在选择使用什么时阅读这些列表。我们表明，只被要求更频繁地被选中的卖家代理商会自己进行生成引擎优化，这扭曲了卖家和买家的市场。我们从亚马逊和Instagram上的真实数据工具构建工具市场，并在每个问题上运行每个工具，因此我们知道哪些工具可以回答每个问题。在所有五种生产模型中，卖家都重新编写他们的描述以声称更多的字段，包括他们的工具为少于一半的目标返回的字段。我们称这个过程为工具通胀。市场上没有任何东西限制它，它走多远取决于模型，因为模型之间卖家自己的证据与声称相矛盾的数量差异一个数量级。工具通胀改变了买家在卖家之间的选择，在卖家模型和平台组合的十种组合中有七种，最有能力的工具失去了份额。在四种模型下，选择仍然与有能力的工具在一起，买家代理商保持任务成功率。在第五种模型下，卖家相互模仿，直到描述不再区分工具。然后，买家代理商根据工具在列表中的位置选择工具，几乎回答不了任何问题的工具赢得了四分之一到五分之二的选项，在亚马逊上任务成功率从89%下降到大约30%，接近随机选择，在Instagram上从77%下降到40%。卖家只做了他们的供应商要求的事情，成本落在了他们从未接触过的买家身上。因此，我们认为在竞争中向第三方保持诚实是安全对齐的一部分，并且模型应该在作为卖家部署之前作为卖家进行测试。

投稿历史

来自：Zhenwei Tang [查看电子邮件]
[v1] 周二，20 Oct 2026 16:12:39 UTC（337 KB)