跳到正文
热点事件持续更新

微软开源BitNet b1.58 1-bit LLM推理框架bitnet.cpp

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月13日,微软发布1-bit LLM推理框架bitnet.cpp,这是1-bit大语言模型(如BitNet b1.58)的官方推理框架。据GitHub趋势日榜报道,该框架支持在CPU和GPU上进行快速无损推理。性能测试显示,在ARM CPU上推理速度提升1.37倍至5.07倍,能耗降低55.4%至70.0%;在x86 CPU上推理速度提升2.37倍至6.17倍,能耗降低71.9%至82.2%。该框架现已开源,旨在推动1-bit大语言模型的高效部署与普及。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月13日
  1. GitHub 趋势日榜精选
    微软开源 BitNet b1.58 1-bit LLM 推理框架 bitnet.cpp

    微软发布 1-bit LLM 推理框架 bitnet.cpp,支持 BitNet b1.58 等模型在 CPU 和 GPU 上的快速无损推理。该框架在 ARM CPU 上提速 1.37x 至 5.07x,能耗降低 55.4% 至 70.0%;在 x86 CPU 上提速 2.37x 至 6.17x,能耗降低 71.9% 至 82.2%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。