跳到正文
原文
Reddit · r/LocalLLaMA· /u/Queasy_Back2588·· 3 小时前AI 评分22

ISTA(GSQ-RCO)与 Unsloth 的量化之争引发讨论

Kind of enjoying the ISTA (GSQ-RCO) vs Unsloth beef

AI 导读

有用户围观 ISTA(GSQ-RCO)与 Unsloth 在模型量化上的竞争,认为双方互相较劲能让所有人用上更好的量化版本。该用户不解 ISTA 为何不公布自家量化模型的 KLD,称目前只在 Unsloth 的图表里见过 GSQ-RCO 的 KLD 数据。

来源:Reddit · r/LocalLLaMA · reddit.com