免费资源

AngelSpec:给多 GPU 团队训练投机解码草稿模型

把 6 种草稿模型架构放进同一套训练流程,帮助有 GPU 集群的团队比较投机解码方案并训练自己的草稿模型。

资源介绍

AngelSpec:给多 GPU 团队训练投机解码草稿模型 资源介绍 当大模型服务团队想减少代码、数学等可预测任务的生成等待时,AngelSpec 提供一套训练草稿模型的开源框架。它不是装到电脑就能给任意聊天机器人加速的工具,而是供有 GPU 训练环境的团队比较和训练投机解码方案。 它能帮你做什么 你可以用它把多种草稿模型放到同一条训练流程里,减少为每个方案重新搭环境的工作;把 vLLM 或 SGLang 的目标模型后端接入训练;并在训练时观察草稿 token 被目标模型接受的情况。 常见使用场景包括: 为 Qwen3-8B 训练 DFly 草稿模型,先跑通官方单机示例; 在相同数据和 GPU 条件下比较 DFly、DFlash、DFlare、Eagle3、DSpark 与 MTP; 把推理 GPU 与训…

资源信息

资源类型
开源项目
版本
commit-d3412bed
最近核验
2026.08.30

相关推荐