已开放试用！清华大学电子工程系联合字节跳动推出开源听觉大语言模型 SALMONN

185次阅读

共计 588 个字符，预计需要花费 2 分钟才能阅读完成。

由清华大学电子工程系与字节跳动旗下火山语音团队合作开发的开源听觉大语言模型 SALMONN，目前已经上架 GitHub 并释出试玩 Demo，不过代码、模型并未放出，官方也表示很快会释出。SALMONN是一个支持语音、音频以及音乐输入，它可以感知和理解不同类型的音频内容输入，并具备多语言语音识别和翻译以及语音推理等功能。

GitHub 地址：https://github.com/bytedance/SALMONN
Demo 地址：https://bytedance.github.io/SALMONN

官方表示，目前 SALMONN 能够胜任 英语语音识别、英语到中文的语音翻译、情感识别、音频字幕生成、音乐描述 等重要的语音和音频任务，同时又涌现出多种在模型训练中没有专门学习过的多语言和跨模态能力，涵盖非英语语音识别、英语到（中文以外）其他语言的语音翻译、对语音内容的摘要和关键词提取、基于音频的故事生成、音频问答、语音和音频联合推理等任务。