标签:端侧大模型

HY-1.8B-2Bit – 腾讯混元推出的2Bit端侧量化大模型

HY-1.8B-2Bit是什么 HY-1.8B-2Bit是腾讯混元体系推出的一款面向端侧部署的2Bit量化语言模型,基于原始1.8B参数规模模型通过量化感知训练(QAT)压缩而成。...