Python 还是 Rust？使用本地 LLM 编程的选型讨论

开发者围绕使用 Python 还是 Rust 编写本地 LLM 相关代码展开讨论，比较小模型在低成本硬件上的编程表现。焦点包括 Rust 编译器反馈能否减少 bug、额外复杂度是否值得，以及不同上下文窗口和模型在 12 或 24 GB VRAM、64 或 128 GB 系统 RAM 环境下的体验。