Skip to content
Hot StoryDeveloping

港科CMU与岩山科技开源EdgeRock-4B模型

1 reports1 sourcesUpdated 6 小时前

Understanding the Event

AI Digest

港科CMU与岩山科技联合开源了EdgeRock-4B模型,该模型通过减少KV Cache占用,实现了长推理内存不涨,单卡吞吐达到源模型的6.42倍,并保持了推理能力。早先报道称EdgeRock-4B模型通过减少KV Cache占用,实现了长推理内存不涨,单卡吞吐达到源模型的6.42倍,并保持了推理能力。模型已开源,具有潜在的应用价值。

Generated by AI from coverage · Updated 3 小时前

Coverage Timeline

Explore different perspectives across coverage.

Oct 26
  1. 量子位Featured
    港科CMU联手岩山科技开源EdgeRock-4B模型,KV Cache砍掉99%,单卡吞吐飙6倍

    EdgeRock-4B模型通过减少KV Cache占用,实现了长推理内存不涨,单卡吞吐达到源模型的6.42倍,并保持了推理能力。模型已开源,具有潜在的应用价值。

Story Heat Trend

当前热度 9·可比范围峰值 9(10月26日 18:00)·近 24 小时可比范围变化 –

02.557.51010月26日18:0010月26日19:0010月26日19:0010月26日20:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。