别被误导——大语言模型不会推理

2016年AlphaGo在击败李世石的第四局中走出第37步看似"送礼"般的妙手，实则是其搜索机制进行前瞻推理的产物，而非单纯的直觉网络。研究者指出当今LLM存在三大缺陷：缺乏明确可检查的认知状态、知识与推理混于权重之中、思维链常为事后编造，因此仅属于System 1式的快速模式补全，而非真正的System 2推理。作者呼吁借鉴AlphaGo架构重新设计机器推理系统。