热点事件持续更新
清华Cache Engineering降低Agent成本
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
清华大学在Agent Cache Engineering领域提出新方案，旨在降低成本并提升效率。新方案指出，Agent成本主要花费在KV cache的读写上，而非多生成token。现有方法通过改写/摘要历史来控制成本，但存在缓存失效和预填重置的问题。清华团队提出的cache engineering方法通过直接控制活跃KV和自改进策略，实现了平均成本降低27.7%和相对阈值摘要提升1.7基准分的效果。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
10月23日
- Agent Control Flash NewsAgent Cache Engineering：清华提出新方案降低成本并提升效率
反直觉：长轨迹 agent 的钱主要花在 KV cache 读写（文中 API 成本 **82.4%**），不是「多生成几个 token」。现有错处：靠改写/摘要历史来控成本——前缀一改就废缓存、还要重预填。作者改动：cache engineering——不改轨迹、不重预填，直接控制活跃 KV（drop 等）+ 可自改进策略。硬数字：相对阈值摘要 **+1.7** 基准分且平均成本 **−27.7%**；自改进策略再比专家设计 **−7.1%** 成本。可迁移判断：**明川：长程 agent 成本看板必须拆「KV I/O vs 生成」，禁只砍 max_tokens。不要并进 #11 Agent S4，也不要并进昨版 StopLoss。**
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。