NVIDIA 开源 Dory1.0-4B-BF16：4B 参数循环架构大模型，支持 256K 上下文

NVIDIA 发布并开源 Dory1.0-4B-BF16 大语言模型，总参数量 4B，采用 normalized-GPT 循环（latent-recurrent）架构，交替使用滑动窗口注意力与全注意力层，BF16 精度，上下文长度最高 256K tokens，面向英语通用推理场景。