HKGAI 推出開源音樂模型 YuE2 實測指標挑戰 Suno v6 教你用 ComfyUI 作曲

Author:

Published:

- 廣告 -

香港生成式人工智能研發中心(HKGAI)正式推出新一代音樂生成模型 YuE2,主打將音樂的「符號規劃」與「聲學渲染」分開處理,讓 AI 不只是根據一句 Prompt 隨機生成歌曲,而是先建立旋律、和弦等音樂結構,再轉化成完整音訊。HKGAI 更表示,YuE2 在最新 WildSongBench 評測中,部分綜合指標已超越包括 Suno v6 在內的商業閉源音樂生成模型。

香港生成式人工智能研發中心(HKGAI)正式推出新一代音樂生成模型 YuE2。
香港生成式人工智能研發中心(HKGAI)正式推出新一代音樂生成模型 YuE2。

YuE2 同時採取開源模式,模型權重可供下載並在本地電腦運行,而 ComfyUI 最新版本亦已加入原生 YuE2 支援。這意味擁有較高階 NVIDIA 顯示卡的用戶,可以像操作 Stable Diffusion 工作流程般,在自己電腦上建立 AI 作曲流程,而毋須把歌詞、Demo 或未公開音樂素材上傳至雲端服務,減少在版權上的糾紛。

官方示範用了一首普通華語流行曲進行九輪對話式編輯——包括重新配和聲、改編曲、融入《小星星》旋律、發展變奏及改寫歌詞後,精準蛻變為結構完整、編曲精緻的英文爵士樂曲。

YuE2 最大分別:不是直接「猜」整首歌,而是先寫樂譜

目前不少 AI 音樂服務的使用方式相當接近:使用者輸入曲風、情緒、歌詞等要求,模型便直接輸出完整歌曲。YuE2 則把過程拆成兩個主要階段。

- 廣告 -

HKGAI 表示,YuE2 首先利用自回歸模型生成 ABC 格式符號樂譜,建立旋律、和弦及歌曲結構,之後才生成語義資訊及聲學特徵,最後透過 VAE 重建成 48kHz 立體聲音訊

這種設計最大的意義是,AI 所作的「音樂決定」可以中途被看見及修改。

例如創作者可以先要求 AI 寫一首流行曲,之後修改第二段副歌旋律、重新編配和弦,甚至改變曲風,再重新產生音訊,而毋須完全從零開始抽出另一首歌曲。HKGAI 在示範中更以同一首華語流行曲進行九輪編輯,包括重新配和聲、改編曲、加入《小星星》旋律、發展變奏以及改寫歌詞。

YuE2 目前支援中文、英文、日文、韓文、俄文及西班牙文等六種語言,官方列出的音樂類型超過 60 種,包括 City Pop、重金屬、爵士及佛蘭明高等。

YuE2 架構圖。
YuE2 架構圖。

WildSongBench:YuE2 部分指標勝過 Suno v6

HKGAI 列出的 WildSongBench 測試包含 192 組 Prompt。當中 YuE2 的 best-of-8 設定,即每個 Prompt 產生八個候選結果再選取其中之一,在 SongBench Avg 得分為 6.9632;Suno v6 為 6.5562,Suno v6 Wild 則為 6.4195

在 WildSongBench 192 組 prompt 測試中,YuE2 兩種設定的歌曲質素都較多款主流商業閉源模型高。
在 WildSongBench 192 組 prompt 測試中,YuE2 兩種設定的歌曲質素都較多款主流商業閉源模型高。

不過這項比較需要留意「best-of-8」條件:它並非單次生成與單次生成的完全同等比較。YuE2 官方 benchmark 文件亦特別指出,這些結果反映指定自動評測流程下的表現,可證明 YuE2 已進入前沿模型水平,但不能直接理解為它在所有音樂類型、人類主觀喜好或所有指標上全面勝過 Suno v6

- 廣告 -

換言之,較合理的結論是:YuE2 已經把開源模型的音樂生成質素推進至可以直接與頂尖商業模型比較的水平,而其真正特色反而在於開源、本地運算以及符號樂譜層面的控制能力。

YuE2 對 Suno v6:兩者走的是不同路線

Suno 在 9 月 9 日推出 v6 系列,包括旗艦 v6、偏向實驗創作的 v6-wild 及較高速的 v6-mini。新版本除了文字生成歌曲,亦加入局部修改、Mashup、抽取及重組素材,以及由文字、音訊、圖片甚至影片出發創作音樂等功能。每次生成最長可達 8 分鐘。

因此,YuE2 與 Suno v6 並不能單純以「哪個音質較好」概括:

項目YuE2Suno v6
模型形式開源權重,本地運算商業雲端服務
作曲方式先生成符號樂譜,再合成音訊以 Suno 平台工作流程直接生成及編輯
樂譜層控制可處理 ABC melody / chords主要透過自然語言及 Studio/MIDI 工具操作
局部修改可修改符號規劃再重新渲染支援 Replace Section、改歌詞等自然語言操作
多媒體輸入目前主要集中音樂、歌詞、樂譜等支援文字、音訊、圖片、影片
本地離線可以不可以
硬件要求本地 GPU,VRAM 要求較高用戶毋須準備 GPU
使用門檻較高較低
商業用途目前模型權重只限非商業用途視 Suno 訂閱及條款而定

Suno v6 的優勢仍然是完整產品化體驗。使用者不用安裝 CUDA、模型或管理 VRAM,輸入 Prompt 後即可創作,而且新版已經可以用自然語言修改局部段落。例如只更換副歌演唱方式,甚至只改一句歌詞而保存其餘內容。

YuE2 的方向則更接近一套可拆解的「AI 音樂引擎」。研究者或專業創作者可以直接取得模型、符號樂譜及中間結果,再接駁自己的工作流程。

16GB VRAM 顯示卡也能跑

HKGAI 新聞稿指出 YuE2 可以在單張消費級顯示卡執行。不過對一般讀者而言,需要補充的是:可以執行不等於任何遊戲顯示卡都適合。

YuE2 官方目前把 24GB VRAM、支援 BF16 的 NVIDIA GPU 列為標準本地執行起點,例如 RTX 3090 或 RTX 4090 級別。官方原始 YuE 模型文件亦指出,長歌曲對顯示記憶體需求尤其高。

ComfyUI 官方現在另外提供 INT8 版本 YuE2 checkpoint,令本地使用門檻進一步下降。筆者實測以 16GB VRAM 的 RTX 4060Ti 使用 INT8 版本的話,生成 90 秒歌曲也沒有問題。但實際可生成的歌曲長度、速度及是否需要 CPU offload,仍然會受顯示卡 VRAM 影響。

- 廣告 -
Buy Me a CPM: PCM 讀者會員資助計劃
Mickey Chan
Mickey Chan
愛模擬飛行、希望終有一日回到單車上的宅,眼鏡娘控。座右銘: 1.膽固醇跟美味是成正比的; 2.所有人都可以騙,但絕對不能騙自己; 3.賣掉的貨才是錢,不賣的收藏品不值一文; 4.踩單車,是為了吃更多美食! 5.正義的話語,不一定出自正義之人的口;
- 廣告 -

Related Articles

- 廣告 -

Recent Articles

- 廣告 -

最新影片

- 廣告 -