跳到正文

技术方向

部署工程 最新动态

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

22 条精选近 30 天 14 条共收录 102 条

更新

精选归档 · 第 2 页

3月26日周四第 21–22 条
  1. Google DeepMind70

    Google DeepMind 发布 Gemini 3.1 Flash Live 音频模型,提升实时对话的自然度和可靠性

    Google DeepMind 推出 Gemini 3.1 Flash Live,这是其最高质量的音频和语音模型,在 ComplexFuncBench Audio 上得分 90.8%,在 Scale AI Audio MultiChallenge 上得分 36.1%(开启 thinking)。

    推荐理由:原文给出了具体 benchmark 数据和多产品可用入口,读者可以据此了解 Gemini 3.1 Flash Live 在音频/语音任务上的能力边界和实际落地场景。

12月16日周二
  1. Google DeepMind65

    Google DeepMind 发布 Gemma Scope 2:覆盖 Gemma 3 全系列的开源可解释性工具套件

    Google DeepMind 发布 Gemma Scope 2,这是面向 Gemma 3 全系列(270M 到 27B 参数)的开源可解释性工具套件,包含稀疏自编码器和转码器,可用于追踪模型内部决策过程、研究越狱行为和安全干预。该工具套件存储了约 110 PB 数据并训练了超过 1 万亿参数,据称为目前 AI 实验室发布的最大规模开源可解释性工具集。

    推荐理由:原文给出了工具覆盖规模和技术细节,读者可以据此判断这些可解释性工具对研究和安全工作的实际可用性。