跳到正文

技术方向

多模态 最新动态

文本之外的能力:视觉理解、图文混合、音视频输入输出的模型与产品进展。

9 条精选近 30 天 5 条共收录 12 条

更新

多模态的精选

10月1日周四第 1–9 条
  1. Google DeepMind72

    Google DeepMind 发布 Gemini 4 Argon 前沿模型

    Google DeepMind 发布前沿模型 Gemini 4 Argon,输出 token 限制扩展至 1M,支持复杂长周期工作流。模型已赋能 Google 内部编码和知识工作,在 CWE-bench v1 漏洞修复中达 68%、Vals Finance Agent v2 多步金融研究中领先、视频理解基准 LVBench 达 91.7%。

    推荐理由:模型在复杂工作流中的具体表现有数字支撑(1M token 输出、CWE-bench 68%、2.7x 加速等),便于读者判断其对实际工作的价值。

9月29日周二
  1. Microsoft Research60

    Microsoft Research 发布 Quine:面向生物学复杂性的 AI 研究系统

    Microsoft Research 发布 Quine,这是一个结合生物世界模型与交互式工具链的 AI 研究系统,旨在连接科学工具、文献、湿实验和科研人员。与 Broad Institute 合作,团队将 Quine 用于胰腺导管腺癌(PDAC)细胞状态转换研究,基于预测优先排序数千种化合物并完成湿实验验证,最高排名化合物产生了最大预期转录变化,整个筛选到验证流程仅耗时一个周末。

    推荐理由:Quine 给出了具体的能力定位和胰腺癌化合物筛选的实验验证结果,读者可据此评估它在加速生物学发现上的实际潜力。

9月25日周五
  1. Google DeepMind63

    Google DeepMind 发布 Gemini 3.8 Live 实时虚拟形象功能

    Google DeepMind 发布 Gemini 3.8 Live 的 Live Avatar 功能,将实时视频生成与语音对话深度融合,支持精确唇形同步、自然表情和流畅话轮转换,可同时处理视觉与音频输入。该功能通过异步工具调用在后台执行复杂任务并保持对话连贯,支持 97 种语言的实时切换,SynthID 水印嵌入音视频输出以保障内容可溯源性,即日起面向 Gemini Enterprise 开放。

    推荐理由:原文披露了实时视觉对话、异步工具调用、97语言无缝切换等具体能力差异,以及 SynthID 水印的安全设计,读者可据此评估该功能对现有企业服务的补充方向。

9月23日周三
  1. Google DeepMind73

    Google DeepMind 发布 Gemini 3.8 Flash TTS 和 Gemini 3.8 Flash-Lite TTS

    Google DeepMind 发布 Gemini 3.8 Flash TTS 和 Gemini 3.8 Flash-Lite TTS 两款文字转语音模型,前者支持用自然语言提示从零创建语音并逐行控制表演,后者针对高容量场景优化。两个模型在 Hume AI 语音设计基准中分别排名第一和第二,支持超过 100 种语言,并内置 SynthID 水印和同意验证等安全机制。

    推荐理由:两个模型在语音设计基准和综合质量指数中均排名第一,可作为当前文本转语音领域的前沿参考。

9月16日周三
  1. Google DeepMind75

    Google DeepMind 推出 Gemini 3.8 Live 和 Gemini 3.8 Live Extended Thinking

    Google DeepMind 发布 Gemini 3.8 Live 和 Gemini 3.8 Live Extended Thinking 两款语音对话模型,前者主打规模化成本效益,后者针对高复杂度任务强化多步推理。

    推荐理由:原文给出了具体评测分数和分平台上线时间,读者可以据此判断 Gemini 3.8 Live 系列在语音对话模型中的实际能力和可用范围。

9月3日周四
  1. Google DeepMind71

    Google DeepMind 发布 WeatherNext 3 全球最先进天气 AI 模型

    Google DeepMind 和 Google Research 发布 WeatherNext 3,号称是目前最先进、最准确的全球天气 AI 模型,由独立机构 Brightband 实时评估验证。

    推荐理由:WeatherNext 3 在分辨率(5km)、更新频率(每小时)和降水预测精度(CRPS 提升 10%-60%)上均给出了可量化指标,用户可直接判断它对天气预报可靠性的实际影响。

9月1日周二
8月13日周四
  1. Microsoft Research62

    微软发布 MindTopo:揭示 VLM 拓扑推理能力的基准

    微软推出 MindTopo 拓扑推理基准,测试多模态大模型对连通性、分离、秩序、围合和绳结等拓扑关系的理解能力。评测涵盖静态推理和交互式规划两类任务,测试范围包括迷宫连通性判断、绳结真伪识别、围栏内动物定位等场景。结果显示,当前模型在静态识别上表现较好,但在需要跨多步操作保持拓扑一致性的规划任务中显著落后,且错误多发生在规划阶段而非感知阶段,表现为忽视动作后果、丢失任务目标或违反环境物理约束。

    推荐理由:微软发布拓扑推理基准 MindTopo,测试发现当前多模态模型在静态识别上表现尚可,但在需要保持拓扑关系的多步规划任务中表现明显下滑,揭示了感知与行动之间的一致性缺口。

8月12日周三
  1. Microsoft Research69

    CARE-X:借助辅助监督、奖励对齐学习和工具增强测量实现临床实用放射学 VLM

    微软研究院提出了统一胸部 X 光 VLM CARE-X,将生成式报告与结构化诊断预测整合到同一模型,并通过辅助分类头、定位头与 DAPO 强化学习进行协同训练。

    推荐理由:该研究提出辅助监督与 DAPO 强化学习结合可同时提升 VLM 生成能力和结构化预测精度,工具增强方法在测量依赖诊断上显著优于纯视觉推理。