谷歌全新AI技术亮相,一耳朵识别,钢琴小提琴乐谱即刻生成

谷歌最近推出了一项名为“全能扒谱AI”的新技术,这项技术可以通过听一遍歌曲,自动生成钢琴和小提琴的乐谱。这一技术的推出,无疑为音乐创作和教学带来了极大的便利。
据悉,这项技术利用了深度学习算法,通过对大量音乐数据进行训练,使得AI能够识别出歌曲中的旋律、节奏和和弦等元素。在听一遍歌曲后,AI能够将这些元素转化为乐谱,并支持多种乐器的演奏。
这项技术的优势在于:
1. 提高音乐创作效率:音乐家可以通过这项技术快速生成乐谱,节省了大量的创作时间。
2. 便于教学:教师可以利用这项技术为学生提供个性化的教学方案,帮助学生更好地掌握乐器演奏技巧。
3. 丰富音乐资源:这项技术可以帮助音乐爱好者将心中的旋律转化为乐谱,让更多人参与到音乐创作中来。
然而,这项技术也存在一些局限性:
1. 音乐风格限制:目前,全能扒谱AI主要适用于流行音乐和古典音乐,对于一些特殊风格的音乐,其识别效果可能不佳。
2. 旋律准确性:虽然AI可以识别出歌曲中的旋律,但有时可能会出现节奏或和弦上的偏差。
总的来说,谷歌推出的全能扒谱AI技术为音乐创作和教学带来了新的可能性,有望在音乐领域产生深远的影响。随着技术的不断发展和完善,相信这项技术将为更多人带来便利。

相关阅读延伸:谷歌推出全能扒谱AI:只要听一遍歌曲,钢琴小提琴的乐谱全有了

晓查 发自 凹非寺
量子位 报道 | 公众号 QbitAI

听一遍曲子,就能知道乐谱,还能马上演奏,而且还掌握“十八般乐器”,钢琴、小提琴、吉他等都不在话下。

这就不是人类音乐大师,而是谷歌推出的“多任务多音轨”音乐转音符模型MT3

首先需要解释一下什么是多任务多音轨。

通常一首曲子是有多种乐器合奏而来,每个乐曲就是一个音轨,而多任务就是同时将不同音轨的乐谱同时还原出来。

谷歌已将该论文投给ICLR 2022。

还原多音轨乐谱

相比于自动语音识别 (ASR) ,自动音乐转录 (AMT) 的难度要大得多,因为后者既要同时转录多个乐器,还要保留精细的音高和时间信息。

多音轨的自动音乐转录数据集更是“低资源”的。现有的开源音乐转录数据集一般只包含一到几百小时的音频,相比语音数据集动辄几千上万小时的市场,算是很少了。

先前的音乐转录主要集中在特定于任务的架构上,针对每个任务的各种乐器量身定制。

因此,作者受到低资源NLP任务迁移学习的启发,证明了通用Transformer模型可以执行多任务 AMT,并显著提高了低资源乐器的性能。

作者使用单一的通用Transformer架构T5,而且是T5“小”模型,其中包含大约6000万个参数。

该模型在编码器和解码器中使用了一系列标准的Transformer自注意力“块”。为了产生输出标记序列,该模型使用贪婪自回归解码:输入一个输入序列,将预测出下一个出现概率最高的输出标记附加到该序列中,并重复该过程直到结束 。

MT3使用梅尔频谱图作为输入。对于输出,作者构建了一个受MIDI规范启发的token词汇,称为“类MIDI”。

生成的乐谱通过开源软件FluidSynth渲染成音频。

此外,还要解决不同乐曲数据集不平衡和架构不同问题。

作者定义的通用输出token还允许模型同时在多个数据集的混合上进行训练,类似于用多语言翻译模型同时训练几种语言。

这种方法不仅简化了模型设计和训练,而且增加了模型可用训练数据的数量和多样性。

实际效果

在所有指标和所有数据集上,MT3始终优于基线。

训练期间的数据集混合,相比单个数据集训练有很大的性能提升,特别是对于 GuitarSet、MusicNet 和 URMP 等“低资源”数据集。

最近,谷歌团队也放出了MT3的源代码,并在Hugging Face上放出了试玩Demo。

不过由于转换音频需要GPU资源,在Hugging Face上,建议各位将在Colab上运行Jupyter Notebook。

论文地址:
https://arxiv.org/abs/2111.03017

源代码:
https://github.com/magenta/mt3

Demo地址:
https://huggingface.co/spaces/akhaliq/MT3

发布于 2025-04-20 08:14
收藏
1
上一篇:【心得分享】超级良心经验之谈,揭秘高效扒歌技巧,让你轻松掌握音乐创作! 下一篇:羡慕别人萨克斯即兴?掌握这招,逐渐提升你的扒谱能力!