跳到正文
原文
Reddit · r/LocalLLaMA· /u/repliestoall·· 2 天前AI 评分12

Terminal Soliloquy:连接 llama.cpp 的终端艺术装置,实时展示模型上下文窗口耗尽前的独白

What happens when a LLM watches its own context window run out?

AI 导读

开发者推出 Terminal Soliloquy,一款连接 llama.cpp 的终端艺术作品,可在模型上下文窗口逐渐填满的过程中实时显示其独白,并配有复古磷光显示外观。该项目可全屏运行在 Raspberry Pi 上接入 1960 年代的老式便携电视;上下文耗尽时,显示器可配置为冻结、重启或退出。

来源:Reddit · r/LocalLLaMA · reddit.com