Aurora：基于强化学习的开放源代码框架，实现动态自我改进的推测解码

Aurora 是一个基于强化学习的开放源代码框架，能够从实时推理跟踪中学习并异步更新推测解码器，将推测解码从静态的一次性设置转变为动态的自我改进飞轮。Aurora 实现了直接缓解分布不匹配、降低基础设施成本、算法无关的框架以及支持多样化的用户需求等功能，在实验中比静态推测解码器快 1.25 倍。