跳到正文
原文
Reddit · r/LocalLLaMA· /u/ResearchCrafty1804·· 2 天前AI 评分47

微软公开页面证实 GPT-6 系列采用 Looped Transformers

Microsoft confirms OpenAI has been using Looped Transformers in the GPT-6 series

AI 导读

微软在公开页面上确认 OpenAI 在 GPT-6 系列中使用了 Looped Transformers,印证了 The Information 此前的报道。其中 GPT-6.1 Sol 采用 2 次推理(而非 3 次),与同系列其他模型共享同一预训练基座,仅在后训练方式与循环次数上有所不同。

来源:Reddit · r/LocalLLaMA · reddit.com