热点事件持续更新
vLLM支持Recursive的Flint模型更新
1 篇报道1 个报道来源18 小时前更新
先了解这件事
AI 综述
vLLM从第一天起就支持Recursive的Flint智能体功能。最新报道显示，vLLM的NVFP4和BF16检查点在单个GPU上运行，单个请求在GB200上以约500个token/s的速度解码，即使有100K个token的上下文。
AI 根据报道生成 · 1 小时前更新
最新进展10月21日 08:00
vLLM更新支持Recursive的Flint智能体功能，性能提升显著。报道时间线
沿着报道，了解事件的不同侧面。
10月21日
- vLLM Team Blog精选vLLM 支持Flint智能体功能
vLLM从第一天起就支持Recursive的Flint智能体。其NVFP4和BF16检查点在单个GPU上运行，单个请求在GB200上以约500个token/s的速度解码，即使有100K个token的上下文。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。