省极客AI导航 提交工具

腾讯混元开源同传模型 Hy-SimulMT:中英实时语音互译,还能保留说话人音色

2026-10-27 · #腾讯混元#同声传译#语音翻译#音色克隆#开源模型#视频出海

腾讯混元 10 月 26 日开源实时同声传译模型 Hy-SimulMT(30B 总参数、约 3B 激活),支持中英双向语音到语音翻译,边听边译并输出文字和语音,接入 TTS 后可克隆原说话人音色;权重采用 Apache-2.0,提供 FP8 和 GGUF 版本,自部署需要 Linux 加 NVIDIA 显卡。

腾讯混元团队在 10 月 26 日开源了实时同声传译模型 Hy-SimulMT,模型权重已上架 Hugging Face 合集和 ModelScope。

按官方仓库的介绍,它的主要特点是:

  • 中英双向、语音到语音:一边接收音频一边翻译,同时给出译文文字和合成语音,不用等一句话讲完;
  • 实时音色克隆:配好 TTS 服务后,译出来的声音会尽量保留原说话人的音色,多人对话时更容易分清谁在说话;
  • 延迟较低:官方在 RealSI 长音频评测里给出的流式延迟指标约 3 秒,在其对比的系统里最低,翻译质量分高于对比的开源模型和多数商用接口(以上均为官方自测数据);
  • 多种版本:30B 总参数、约 3B 激活的 MoE 模型,分「只输出译文」和「原文加译文一起输出」两类,各有 FP8 量化和 GGUF 格式;
  • 配套工具:SimulInfer 推理服务带网页界面、音频文件上传和实时 WebSocket 接口,SimulTrain 用于继续训练。

授权方面,仓库许可证文件写明 Hy-SimulMT 的代码和权重按 Apache-2.0 发布,第三方组件沿用各自原许可。自己部署需要 Linux、Python 3.12 以上和显存足够的 NVIDIA 显卡,基于 vLLM 运行;不想折腾的话,官方也提供了 Hy Translate App 可以直接体验。官方同时提醒,评测只代表其测试样本和设置,严肃、高风险场合仍建议由专业译员把关。

对创作者意味着什么: 做中英双语内容、海外访谈或出海短视频的创作者,多了一个可以自己部署、能保留原声音色的实时翻译方案:直播或连线采访时可以做实时字幕和译音参考,录好的中文口播也能先跑一版英文配音稿,再人工校对润色。不过 30B 的模型对显卡要求不低,个人电脑跑起来不一定轻松;音色克隆涉及他人声音时,务必先取得本人授权,成片里的翻译内容也要人工核对,别直接当最终稿发布。

信息来源:Hy-SimulMT GitHub 仓库(本文为编辑整理改写)

推荐工具