OpenSource-Hub

YuE

データセット・モデル

multimodal-art-projection/YuE

最先端のオープンソース音楽生成モデル。シンボリックプランニングとエージェント編集に対応。

概要

YuE2 はオープンソースの音楽生成基盤モデルであり、歌詞とスタイルプロンプトに基づいて、まず編集可能なメロディーとコードの楽譜を生成し、その後ボーカル付きの 48kHz ステレオの完全な楽曲に合成します。ゼロショットカバー、ホワイトボックス楽譜編集、および対話型エージェントによる音楽修正をサポートしており、生成品質は主要な商用システムに匹敵します。

README プレビュー

> Looking for the original YuE? Its code, documentation, and license are preserved on the **[YuE-v1 branch](https://github.com/multimodal-art-projection/YuE/tree/YuE-v1)**.\n\n\n  \n\n\n\n  \n    \n    \n  \n\n\nYuE2: Unifying Symbolic and Audio Music Generation at Frontier Quality\n\nCompose in symbols. Create in sound.\n\n\n  🎧 Demos ·\n  🤗 YuE2 ·\n  🚀 Quick start ·\n  🤖 Agent skill ·\n  📊 Benchmarks ·\n  🤗 MERT2 ·\n  🤗 SheetSage2 ·\n  🤗 WSB ·\n  📦 Release ·\n  \n\n\n**YuE2 brings frontier song quality to music generation with an editable composition.** Give it lyrics and a style prompt: it writes a melody-and-chord plan, then realizes that plan as a complete song with vocals and accompaniment.\n\n- **Frontier quality.** YuE2 is competitive with Suno v5/v6 on WildSongBench. YuE2 (best-of-8) achieves **6.9632 SongBench Avg**, the highest observed mean among all evaluated settings.\n- **White-box music generation through symbolic planning.** Read, play, and change the composition before rendering it. Melody and chords become explicit controls that a person or an agent can inspect and edit.\n- **Zero-shot covers and agentic editing.** Reimagine a transcribed song in a new style, or refine a song through a conversation about its score, arrangement, and lyrics—all with the same generation checkpoint.\n\n[](https://map-yue2.github.io/#model-overview)\n\n*192 WildSongBench prompts. Both YuE2 settings use symbolic planning. Bo8 = best-of-8. The axes are normalized comparison indices; bubble area represents AudioBox production quality. [Scores and evaluation protocol](docs/benchmarks.md). [Vector PDF](assets/frontier-teaser.pdf) · [SVG](assets/frontier-teaser.svg).*\n\n## Hear what you can make\n\n| Create | Cover | Edit with an agent |\n|---|---|---|\n| Lyrics + style → score → full song | Source recording → melody score → a new interpretation | Musical feedback → score, style, or lyric revisions → a new recording |\n| [Listen and inspect the score](https://map-y

FAQ (1)

トラブル対応
ComfyUI YuE(smthemex nodes)で 'UnboundLocalError: cannot access local variable raw_output' を修正する方法

これはComfyUI_YuEパックのロジックバグです:Stage 1の生成でセグメントがゼロ個生成される場合(短い歌詞、特定のプロンプトの組み合わせ、ガイダンスの無効化時)、raw_outputに代入するループが一度も実行されないため、yue_node.py内のids = raw_output[0].cpu().numpy()で変数が未定義になります。

修正1 — custom_nodes/ComfyUI_YuE/yue_node.pyにパッチを適用:sampler_main内で、生成ループの前に変数を初期化します:

raw_output = None

そしてids = raw_output[0]...の行の前に以下を追加します:
if raw_output is None:
    raise RuntimeError("Stage1 produced no output tokens (raw_output is None)")

あるいはraw_output = torch.empty((1, 0), device=device, dtype=torch.long)で初期化してください。これにより、有効な生成の場合はStage Aが完了します。

修正2 — 次にImportError: TorchCodec is required for load_with_torchcodecが発生した場合:torchaudio ≥ 2.9はtorchaudio.load()に対してデフォルトでTorchCodecを使用します。ComfyUIと同じvenvにインストールしてください:

pip install torchcodec

Linux上でComfyUI 0.9.2、Python 3.12、torch 2.9.1+cu128、torchaudio 2.9.1+cu128、torchcodec 0.9.1で動作確認済みです。両方の修正を適用後、YuEパイプライン全体が実行され、音声が正しく生成されます。

参照 Issue #148