Reddit · r/LocalLLaMA· /u/Queasy_Back2588·· 3 小时前AI 评分22
ISTA(GSQ-RCO)与 Unsloth 的量化之争引发讨论
Kind of enjoying the ISTA (GSQ-RCO) vs Unsloth beef
AI 导读
有用户围观 ISTA(GSQ-RCO)与 Unsloth 在模型量化上的竞争,认为双方互相较劲能让所有人用上更好的量化版本。该用户不解 ISTA 为何不公布自家量化模型的 KLD,称目前只在 Unsloth 的图表里见过 GSQ-RCO 的 KLD 数据。
来源:Reddit · r/LocalLLaMA · reddit.com