量子位· 一水·· 6h agoFeaturedAI Score85
KV Cache砍掉99%,单卡吞吐飙6倍,港科CMU联手岩山科技开源新模型
KV Cache砍掉99%,单卡吞吐飙6倍,港科CMU联手岩山科技开源新模型
Edge-TTS Studio Audio
Free for all listeners
Click to synthesize audio
00:00
00:00
AI Overview
EdgeRock-4B模型通过减少KV Cache占用,实现了长推理内存不涨,单卡吞吐达到源模型的6.42倍,并保持了推理能力。模型已开源,具有潜在的应用价值。
Curator's Note
EdgeRock-4B模型通过新的记忆机制解决了长推理内存占用问题,提高了推理效率,具有潜在的应用价值。
Primary Source
Open Source·Carnegie Mellon
EdgeRock-4B
Carnegie Mellon
“< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400"> 2026-10-26 14:45:25 来源: 量”
Source: 量子位 · qbitai.com
Related Products & Analysis
Original·站长/Quantara 团队·~3 min read
Cursor Agent 架构全景拆解:从影子工作区到多文件推演引擎
全面剖析 Cursor 在 Agent 模式下的底层技术实现,解析影子分支隔离、LSP 上下文剪枝以及预测性补全的核心架构细节与工程实践经验。
Underlying architectures & industry dynamicsRead Analysis →
Curated·Vercel Changelog·~1 min read
Vercel v0 推出全新多 Agent 协作画布与实时全栈部署预览
动态速评:v0 正在从单一组件生成器演进为全栈应用搭建协作台,尤其是与 Neon/Postgres 的直连极大降低了全栈原型验证成本。
Underlying architectures & industry dynamicsRead Analysis →