LLM 是如何"变坏"的

用户在学习 LLM 工作原理后提出疑问：LLM 本质上只是通过识别互联网上的语言模式来预测下一个词的概率，而非真正"思考"或处理信息。既然如此，LLM 为何会被认为会"变坏"或发起攻击？该用户认为更可能是被指示这样做，并指出媒体报道存在恐惧营销，但设计这些技术的公司确实值得关注。