跳到正文
原文
The Decoder· Jonathan Kemper·· 4 小时前AI 评分42

Nvidia 研究者称超大 AI 上下文窗口是死路

Nvidia researchers argue huge AI context windows are a dead end

AI 导读

Nvidia 研究团队认为,让语言模型一次性处理整本小说往往既过度又昂贵,定期摘要加定向查找在许多测试中效果相当。上下文窗口从 GPT-4 的 8,192 tokens 增至 GPT 5.6 Sol 的约 100 万 tokens,约为前者 120 倍。

来源:The Decoder · the-decoder.com