Meta开源生成式AI 音频工具AudioCraft
Meta AudioCraft是一个开源音频生成框架,通过对原始音频信号进行训练,可以从基于文本的用户输入中生成高质量、逼真的音频和音乐。其包括三个模型:MusicGen用于生成音乐,AudioGen用于生成音频,EnCodec是一个解码器,能产生预训练的音效和环境声音。Meta团队希望通过开源代码,让研究人员和从业者可以访问和训练自己的模型。
近年来,生成式人工智能模型在图像、视频和文本生成方面取得了进展,但在音频领域仍有挑战。生成音频需要建模复杂的信号和模式,尤其音乐作为音频类型中最具挑战性。AudioCraft模型可以产生具有长期一致性的高质量音频,能够轻松交互,并且简化了音频生成模型的设计。
EnCodec是一种有损神经编解码器,专门用于压缩任何类型的音频并重建原始信号。通过EnCodec的解码器,结合自回归语言模型,可以生成新的音频和音乐。Meta团队将继续研究高级生成AI音频模型,改进当前模型的速度和效率,并通过开源分享代码,促进更多的研究和应用。他们相信这个框架可以对先进人机交互模型的发展产生有意义的影响。