bing.shao头像

30B总参、3B激活、StreamLAAL约3秒:腾讯混元 Hy-SimulMT 把“同声传译“从人工职业拉进开源赛道

Part One:同声传译的真正难度不是翻译质量,是"抢话"

同传的历史可以追溯到二战后的纽伦堡审判,当时为了让英、法、德、俄四种语言的参会者能同时理解证词,工程师和语言学家搭出了第一套电子同传系统。八十多年过去,硬件从真空管变成手机,但同传的核心物理约束没变:人耳对延迟的容忍度是有上限的。超过 4–5 秒,听众的注意力就开始涣散;超过 8 秒,听众会怀疑"是不是坏了"。这就是为什么"3 秒"这个数字在同传领域有特殊的分量——它刚好卡在"能接受"和"感觉流畅"的边界上。

2026 年 10 月 26 日,腾讯混元开源了同声传译大模型 Hy-SimulMT,支持中英双向的语音到语音实时翻译,同步给出译文和语音,并支持实时音色克隆——听众听到的是接近说话人本人声音的译文,模型在腾讯 Hy 翻译 App 首发免费开放。

同传和文本翻译根本不是一件事。文本可以等整段结束再处理,语音必须边听边切分、边处理停顿/口头语/情绪/打断;输出侧不仅要译得对,还要用接近原声的音色和语调说出来,否则听感是"机器在替人讲话"而不是"对方在讲外语"。所以这个领域的真正难点从来不是翻译质量,而是延迟:每多一秒延迟,听感上的断裂感就多一分,观众会明显感到"抢话"或"卡壳"。延迟压到秒级,同传才从辅助工具变成可以戴在耳朵上的服务。

混元给出的核心数字:StreamLAAL 约 3 秒——对比人类专业同传平均 4–5 秒,快了一截;翻译质量在 RealSI 长音频上超过了所有对比的开源模型和 5 个商业 API 中的 4 个。

   同传的"抢话"难题:延迟 vs 信息完备度的拉扯
  +---------------------------------------------------+
  |  信息完备度高(等整句甚至整段)                      |
  |      ^                                            |
  |      |                                            |
  |      |  传统翻译:等句子结束再处理                    |
  |      |     延迟大, 质量稳                          |
  |      |                                            |
  |      |                                            |
  |      |  Hy-SimulMT: 边听边译 + 后校正              |
  |      |     延迟 3 秒, 质量接近人类同传              |
  |      |                                            |
  |      v                                            |
  |  信息完备度低(只听到半句就开口)                     |
  |  早开口 -> 低延迟(抢话)          后上下文可能推翻前判断
  +---------------------------------------------------+

Part Two:30B MoE、3B 激活——为什么是"稀疏"把延迟压到秒级

Hy-SimulMT 不是 30B 全参激活的"胖模型",而是 30B 总参、约 3B 每 token 激活的混合专家(MoE)架构。MoE 的核心是:推理一次不走全部参数,而是路由到少量相关"专家",这让一个 30B 规模的模型,算力开销可以接近一个几 B 的稠密模型。

# MoE 激活稀疏性的直觉演示
class MoEDemo:
    """30B 总参/3B 激活的混合专家;每 token 只激活 ~10% 专家."""
    def __init__(self, total_params_b=30.0, active_per_token_b=3.0):
        self.total = total_params_b
        self.active = active_per_token_b
        self.sparsity = 1 - active_per_token_b / total_params_b

    def compute_per_token(self):
        # 简化: 每 token 的计算量 ∝ 激活参数
        return self.active

    def memory_footprint(self):
        # 显存/片上内存要装下全部权重, 但搬运量由激活决定
        return self.total

    def vs_dense(self, dense_b):
        # 与稠密模型相比, 激活参数量 = 算力开销比
        ratio = self.active / dense_b
        return {
   
   "active_ratio_to_dense": f"{
     
     ratio:.2f}x",
                "total_capacity": f"{
     
     self.total}B vs dense {
     
     dense_b}B"}

m = MoEDemo()
print(f"稀疏度                  : {
     
     m.sparsity:5.1%}")
print(f"每 token 计算量(激活)   : 

转载自 CSDN-专业IT技术社区

原文链接:https://blog.csdn.net/shaobingj126/article/details/169362452

文章来源转载

评论

评论列表

微信小程序
QQ小程序

关于作者

点赞数:0
关注数:0
粉丝:0
文章:0
关注标签:0
加入于:--