The Decoder· Jonathan Kemper·· 4 小时前AI 评分42
Nvidia 研究者称超大 AI 上下文窗口是死路
Nvidia researchers argue huge AI context windows are a dead end
AI 导读
Nvidia 研究团队认为,让语言模型一次性处理整本小说往往既过度又昂贵,定期摘要加定向查找在许多测试中效果相当。上下文窗口从 GPT-4 的 8,192 tokens 增至 GPT 5.6 Sol 的约 100 万 tokens,约为前者 120 倍。
来源:The Decoder · the-decoder.com