Gemini 模型加速视频扩散在 TPUs 上的时空注意力

Google 开发者博客发布了一篇关于 Gemini 模型在 TPUs 上加速视频扩散的研究案例。该研究通过优化注意力机制，将视频扩散模型的生成速度提升了 3.5 倍，同时保持了较高的视频质量。研究使用了稀疏注意力机制，通过在推理时动态配置注意力头，将注意力路由到空间或时间掩码，从而实现了速度的提升。