跳到正文
原文
量子位· 一水·· 5 小时前精选AI 评分85

港科CMU联手岩山科技开源EdgeRock-4B模型,KV Cache砍掉99%,单卡吞吐飙6倍

KV Cache砍掉99%,单卡吞吐飙6倍,港科CMU联手岩山科技开源新模型

Edge-TTS 广播级有声
全员无门槛畅听
点击合成广播级音频
00:00
00:00
AI 导读

EdgeRock-4B模型通过减少KV Cache占用,实现了长推理内存不涨,单卡吞吐达到源模型的6.42倍,并保持了推理能力。模型已开源,具有潜在的应用价值。

推荐理由

EdgeRock-4B模型通过新的记忆机制解决了长推理内存占用问题,提高了推理效率,具有潜在的应用价值。

一手信源
开源仓库·Carnegie Mellon

EdgeRock-4B

Carnegie Mellon

“< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400"> 2026-10-26 14:45:25 来源: 量”

来源:量子位 · qbitai.com

关联产品与深度拆解

原创·站长/Quantara 团队·约 3 分钟深度解析

Cursor Agent 架构全景拆解:从影子工作区到多文件推演引擎

全面剖析 Cursor 在 Agent 模式下的底层技术实现,解析影子分支隔离、LSP 上下文剪枝以及预测性补全的核心架构细节与工程实践经验。

深入理解底层架构与行业变量阅读拆解 →
精选·Vercel Changelog·约 1 分钟深度解析

Vercel v0 推出全新多 Agent 协作画布与实时全栈部署预览

动态速评:v0 正在从单一组件生成器演进为全栈应用搭建协作台,尤其是与 Neon/Postgres 的直连极大降低了全栈原型验证成本。

深入理解底层架构与行业变量阅读拆解 →