标签:大模型推理

AngelSpec – 腾讯混元推出的大模型推测解码训练与部署框架

AngelSpec是腾讯混元推出的大模型推测解码训练与部署框架,支持DFly、MTP等多种推测解码架构,可用于AI模型推理加速、草稿模型训练和大语言模型部署优化,适...