YuE2 – 先写谱面再渲染成歌的开源 AI 音乐生成模型

AI模型4天前更新 老高
29 0

YuE2 是一款由 M·A·P 于 2026 年 9 月开源的符号与音频统一音乐生成模型。与直接生成音频的模型不同,它先写出可读、可改的旋律与和弦谱面,再照谱面渲染出带人声与伴奏的完整歌曲,谱面因此成了人能检查、智能体也能修改的中间层,适用于歌曲创作、翻唱改编与音乐教学。

基础信息内容
产品定位符号规划 + 音频渲染的开源音乐生成模型
开发团队M·A·P 联合港科大等 8 家机构
发布时间2026 年 9 月 29 日
开源协议Apache-2.0(可商用、可自托管)
模型规模YuE2-3B
硬件要求Linux/Python 3.12/NVIDIA GPU(BF16)/24GB 显存
输出规格48kHz 立体声,不做量化压缩
谱面格式ABC 记谱法,可导出、可外部编辑后再回灌
在线试用yue.noizai.net(NOIZ 托管,免费、免安装)
社区热度GitHub 约 1.2 万 stars,Hugging Face 模型趋势榜曾到第 3
YuE2 官方项目主页首屏截图

YuE2 的核心能力

它的差异不在「能不能出歌」,而在生成过程被拆成可审计的两段:符号段产出旋律与和弦,音频段把符号变成声音。下面六项都从这个拆分里长出来。

符号规划:先把歌写成谱,再渲染成声

输入歌词与风格后,模型先生成旋律与和弦计划并落成 ABC 记谱文本,再据此渲染人声与伴奏。相比 Suno 这类直接出音频的黑箱流程,谱面是可以打开看的——你能知道它打算用哪个和弦走向、旋律在哪个音区起落,也能在渲染前把不想要的部分改掉。

三档生成模式覆盖整曲、翻唱与直出

参数 cot 分三档:cot="full" 生成可编辑的旋律加和弦计划,是新歌默认;cot="melody" 只锁旋律、放开伴奏,官方推荐用于翻唱;cot="off" 跳过谱面直接从歌词与风格出音频。另有 abc 参数可喂进自己的谱面,等于把人写的曲和模型编的曲放进同一条流水线。

零样本翻唱:用转录谱换风格,不重训模型

翻唱路径先用 SheetSage2 把参考录音转成旋律 ABC 谱,再让 YuE2 按目标风格重新编曲演唱。官方在 948 首作品上测过:带完整谱面拿到 0.647 的 CLEWS mAP,不带谱面只有 0.006,差距几乎全来自「有没有谱」这一件事。它用的是通用生成权重,没有针对翻唱微调。

智能体改谱:把修改意见变成具体音符

中间产物是结构化谱面,改歌就不必靠反复重抽。把计划导出后,可以按「换爵士和声」「保留旋律改配器」这类指令改 score.abc,再回灌渲染。官方演示里一首《The Last Train》从普通话流行改到英语爵士,跨 9 轮对话、14 个版本,每版都留下谱面与提示词可对照。

分阶段 Python API:每步都能停下来看

接口拆成 plan() → generate_semantic() → synthesize() → decode() 四段。可以在生成语义 token 后就停下来检查,也能复用同一份计划换解码器重渲,不必每次把整首歌从头跑一遍——批量试风格时省下的是大量重复算力。

生态接入:ComfyUI、加速工具与智能体技能

官方节点已进 ComfyUI 模板库,有现成的文生音乐工作流;NOIZ 的 YuE2-Turbo 提供推理加速与并发;Maestro 把它接进本地生歌工具。仓库还自带 yue2-music 智能体技能,把生成歌曲、转录翻唱、改 ABC 谱写成可执行流程,官方推荐的组合是 GPT-6 Astra 驱动技能、YuE2 负责作曲出音。

YuE2 与同类音乐生成模型的对比

下表四个模型都在官方 WildSongBench 评测里(192 条提示词,2026 年 9 月 12 日),四项分数直接取自 YuE2 技术报告的结果表,权重与部署两列取自各项目公开信息。

对比维度YuE2Suno v5.5Mureka 9MiniMax Music 3.0
权重是否开放Apache-2.0 开源,可自托管闭源商业服务闭源商业服务权重公开
SongBench 均分 ↑6.7316(best-of-8 为 6.9632)6.71506.93776.2830
AudioBox 制作质量 ↑8.25988.19558.02268.2825
MuLan 文本对齐 ↑0.50680.50890.43940.3928
PER 音高错误率 ↓8.44%5.96%11.69%6.27%
谱面能否查看与修改能,ABC 谱可导出再回灌不能不能不能
本地部署支持,单卡 24GB 显存起不支持不支持支持
接入门槛需 Linux 与 Python 环境网页即用网页即用网页与本地均可

四个模型总分咬得很紧:YuE2 的 6.7316 略高于 Suno v5.5 的 6.7150,低于 Mureka 9 的 6.9377,官方也写明最高均分之间的差距不足以证明统计显著。真正拉开距离的是两处结构性差异:一是谱面,另外三个都不能把中间作曲结果拿出来看;二是音高准确度,YuE2 的 PER 为 8.44%,明显高于 Suno v5.5 的 5.96%。逐项细节可对照 Suno v5.5 与 MiniMax Music 3.0 两页。

如果想先对比另一条闭源路线,可以看 Mureka(一个把编曲与演唱都封在云端的 AI 音乐生成服务),与 YuE2 同属 AI 音乐生成范畴,差异在于它不开放谱面结构与本地权重。

YuE2 的应用场景与适用人群

因为能把作曲过程摊开,它的适用面比「一键出歌」的工具更偏向需要反复打磨的场合:

  • 短视频与播客配乐:先按情绪出谱,再改和弦与配器,不必每次靠重抽碰运气。
  • 翻唱与改编:把已有录音转录成旋律谱,换风格重新编曲,保留原曲旋律骨架。
  • Demo 打样:给客户听三个和声方案,每个方案都附一份可读的谱面说明改了什么。
  • 音乐教学:谱面与音频一一对应,能直观看到某个和弦在这里怎么用。
  • 智能体工作流:把改谱指令写成流程,批量产出风格变体用于 A/B 听感测试。
  • 研究与评测:WildSongBench、MERT2、SheetSage2 一起构成可复现的评测链路。

适用人群:适合已有基础音乐概念、愿意为一首歌多花几轮调整的作曲与制作岗位,以及需要把音乐生成嵌进自动化流程的开发者;只想一句话出歌、或不具备 Linux 环境的人,用商业网页服务会更省事。

YuE2 的使用方法

官方给两条路径:不装环境可直接开 yue.noizai.net 在线生成;要在本地跑,按下面五步。

  1. 准备环境:Linux 系统、Python 3.12、一张支持 BF16 的 NVIDIA 显卡且显存不低于 24GB。Windows 与 Mac 不在官方 Quick start 范围内。
  2. 装依赖:克隆 YuE 官方仓库后建虚拟环境,依次执行 pip install --upgrade pip 与 pip install .;模型首次使用会自动从 Hugging Face 拉取 m-a-p/YuE2-3B。
  3. 跑第一条样例:执行 python examples/generate.py --output outputs/first-song,输出目录除音频外还留着谱面、语义 token、声学 latent、生成参数与模型标识,便于复现。
  4. 选模式:新歌用 cot="full";翻唱先过 SheetSage2 转谱,再把 cot 设为 "melody" 并喂入不带和弦符号的谱面,让伴奏跟着新风格走。
  5. 改谱重渲:先导出计划,编辑 score.abc,再用 python examples/generate.py --request examples/song.json --abc-file edited.abc --cot full --output outputs/edited 重渲。改谱会生成一版完整新录音,不保留原波形。

显存吃紧时可用 NOIZ 的 YuE2-Turbo 做推理加速,或改用 ComfyUI 官方文生音乐工作流分步调试;批量出歌建议固定 seed 与解码器设置,否则版本之间很难比对差异。

YuE2 的项目地址

  • 项目主页:https://map-yue2.github.io/
  • GitHub 主仓库:https://github.com/multimodal-art-projection/YuE

YuE2 的开源许可与价格方案

YuE2 按 Apache-2.0 协议开源,代码与权重均可免费下载、自托管与商用,不存在软件许可费用。官方另提供 NOIZ 托管的免费在线试用,不需要本地显卡。

真实成本落在算力上:本地跑需要一张 24GB 显存级别的显卡;用云端 GPU 则按小时计费,整曲生成耗时与显卡型号直接决定单首成本。它不按首数收费,也没有订阅档位,出多少首只取决于有多少算力。

同系列资源同样开源分发:负责转谱的 SheetSage2、负责音乐理解的 MERT2、以及评测用的 WildSongBench 数据集,都托管在 Hugging Face 的 m-a-p 组织下,可按同一套许可直接取用。

YuE2 的常见问题

YuE2 和 Suno 这类商业服务最大的区别是什么?

YuE2 把作曲过程做成可读可改的 ABC 谱面,另外三个对比模型都做不到,它还能本地部署并按 Apache-2.0 商用。代价是要自建 Linux 环境、准备 24GB 显存显卡。

跑 YuE2 最低需要什么配置?

官方 Quick start 写明:Linux、Python 3.12、支持 BF16 的 NVIDIA GPU、24GB 显存。低于这个显存没有官方支持路径,可先用 NOIZ 在线试用。

翻唱必须先转录吗?

是。零样本翻唱依赖谱面:先用 SheetSage2 把参考录音转成旋律 ABC 谱,再用 cot=”melody” 模式生成。官方实测带谱面 CLEWS mAP 是 0.647,不带谱面只有 0.006。

改谱之后原录音会保留吗?

不会。改谱会按新谱面重新生成一版完整录音,原始波形只在编辑范围内不被保留。想对比改动前后,必须把两版都存下来。

YuE2 生成的歌能商用吗?

代码与权重按 Apache-2.0 分发,协议本身允许商用。但训练数据来源、生成内容与所填歌词之间的版权关系需自行判断,官方未对生成结果做额外商用承诺。

© 版权声明

相关文章