LocalLLaMA 讨论 140TB 存储与 4×640GB A100 服务器适合下载哪些模型

一名 LocalLLaMA 用户计划在拥有 140TB 存储和 4×640GB A100 GPU 的服务器上下载 GLM5.3（Flash）（abliterated）、DS4 Flash 等模型，并征询未来最有价值的模型与量化版本建议。其目标还扩展至图像和视频模型，希望了解其他用户正在使用的模型。