跳到正文

技术方向

部署工程 最新动态

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

45 条精选近 30 天 36 条共收录 202 条

更新

精选归档 · 第 3 页

6月9日周二第 41–45 条
  1. Google DeepMind74

    Google DeepMind 发布 Gemini 3.5 Live Translate 实时语音翻译模型

    Google DeepMind 发布 Gemini 3.5 Live Translate,这是一款用于实时语音到语音翻译的音频模型,支持 70+ 语言,可自动检测语言并生成保留说话者语调、节奏和音高的自然翻译语音。

    推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

5月5日周二
  1. OpenAI News63

    OpenAI 推出 ChatGPT 广告自助购买新方式

    OpenAI 推出 ChatGPT 广告的 beta 版自助 Ads Manager,支持 CPC 竞价和增强的测量工具,强调保护用户隐私并将对话与广告分离。

    推荐理由:原文给出了 beta 版自助广告管理器、CPC 竞价和隐私保护三个具体变化,读者可以据此判断它对广告商的价值。

4月22日周三
  1. Google DeepMind62

    Google DeepMind 推出 Decoupled DiLoCo:实现低带宽、高弹性的跨数据中心分布式训练

    Google DeepMind 发布 Decoupled DiLoCo,将大规模训练任务拆分到独立的计算岛屿中,岛屿之间以异步数据流通信,单个芯片故障不会中断其他岛屿的训练。

    推荐理由:原文给出了具体的训练规模(12B 参数)、带宽条件(2-5 Gbps)和关键结论(比传统方法快 20 倍以上),读者可据此评估该方法是否适用于自己的跨地域训练场景。

3月26日周四
  1. Google DeepMind70

    Google DeepMind 发布 Gemini 3.1 Flash Live 音频模型,提升实时对话的自然度和可靠性

    Google DeepMind 推出 Gemini 3.1 Flash Live,这是其最高质量的音频和语音模型,在 ComplexFuncBench Audio 上得分 90.8%,在 Scale AI Audio MultiChallenge 上得分 36.1%(开启 thinking)。

    推荐理由:原文给出了具体 benchmark 数据和多产品可用入口,读者可以据此了解 Gemini 3.1 Flash Live 在音频/语音任务上的能力边界和实际落地场景。

12月16日周二
  1. Google DeepMind65

    Google DeepMind 发布 Gemma Scope 2:覆盖 Gemma 3 全系列的开源可解释性工具套件

    Google DeepMind 发布 Gemma Scope 2,这是面向 Gemma 3 全系列(270M 到 27B 参数)的开源可解释性工具套件,包含稀疏自编码器和转码器,可用于追踪模型内部决策过程、研究越狱行为和安全干预。该工具套件存储了约 110 PB 数据并训练了超过 1 万亿参数,据称为目前 AI 实验室发布的最大规模开源可解释性工具集。

    推荐理由:原文给出了工具覆盖规模和技术细节,读者可以据此判断这些可解释性工具对研究和安全工作的实际可用性。