Hacker News · 首页· AndrewKemendo·· 6 小时前AI 评分32
反驳"没人懂大语言模型":从业者详解 LLM 的工作机制
Yes I Understand How LLMs Work
AI 导读
一位长期训练和研究大语言模型的从业者撰文反驳"没人知道 LLM 如何工作"这一常见说法。文章从 Transformer 架构出发,逐步说明 token 化、多层矩阵运算与注意力机制、损失函数反向传播调整参数等流程,并指出这些环节均可被检测、修改和重复实验,目前已有 Transformer Circuits 等专门研究项目公开推进相关工作。
来源:Hacker News · 首页 · kemendo.com