NVIDIA Nemotron Bolt 3.5 74B A9B 将于 10 月 15 日发布

NVIDIA Nemotron Bolt 3.5 74B A9B 是一款 74B 参数、9B 激活参数的 MoE 模型，通过 2-bit 量化和量化感知训练压缩至 24GB 内存。该模型主打速度与智能的平衡，宣称在相近内存占用下，速度快于主流 dense 模型、智能表现优于同类 MoE 模型。同系列 Nemotron 3.5 Bolt E4B 4GB 将于 10 月 23 日发布。