热点事件持续更新
Kimi K3与AMD Instinct MI355X性能提升
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Kimi K3在AMD Instinct MI355X系统上通过优化实现了每GPU每秒处理24.4%更多的token,成本效益比NVIDIA HGX B300高87.4%,早先报道称Kimi K3在AMD Instinct MI355X上的优化:匹配NVIDIA HGX B300的GPU吞吐量。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
10月16日
- vLLM Team BlogKimi K3在AMD Instinct MI355X上的优化:匹配NVIDIA HGX B300的GPU吞吐量
Kimi K3在AMD Instinct MI355X系统上,通过优化缓存、MoE、内存流量、MLA、KDA和推测解码等,实现了每GPU每秒处理24.4%更多的token,且成本效益比NVIDIA HGX B300高87.4%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。