Skip to content
Source
量子位· 一水·· 6h agoFeaturedAI Score85

KV Cache砍掉99%,单卡吞吐飙6倍,港科CMU联手岩山科技开源新模型

KV Cache砍掉99%,单卡吞吐飙6倍,港科CMU联手岩山科技开源新模型

Edge-TTS Studio Audio
Free for all listeners
Click to synthesize audio
00:00
00:00
AI Overview

EdgeRock-4B模型通过减少KV Cache占用,实现了长推理内存不涨,单卡吞吐达到源模型的6.42倍,并保持了推理能力。模型已开源,具有潜在的应用价值。

Curator's Note

EdgeRock-4B模型通过新的记忆机制解决了长推理内存占用问题,提高了推理效率,具有潜在的应用价值。

Primary Source
Open Source·Carnegie Mellon

EdgeRock-4B

Carnegie Mellon

“< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400"> 2026-10-26 14:45:25 来源: 量”

Source: 量子位 · qbitai.com

Related Products & Analysis

Original·站长/Quantara 团队·~3 min read

Cursor Agent 架构全景拆解:从影子工作区到多文件推演引擎

全面剖析 Cursor 在 Agent 模式下的底层技术实现,解析影子分支隔离、LSP 上下文剪枝以及预测性补全的核心架构细节与工程实践经验。

Underlying architectures & industry dynamicsRead Analysis →
Curated·Vercel Changelog·~1 min read

Vercel v0 推出全新多 Agent 协作画布与实时全栈部署预览

动态速评:v0 正在从单一组件生成器演进为全栈应用搭建协作台,尤其是与 Neon/Postgres 的直连极大降低了全栈原型验证成本。

Underlying architectures & industry dynamicsRead Analysis →