Reddit · r/MachineLearning· /u/SignificantZebra5883·· 1 天前AI 评分22
用波兰法律数据对 Qwen3.5-9B-BASE 做 CPT 后,如何训练推理与工具调用
CPT’d Qwen9B on Polish legal data. How to make it chat? IMPORTANTLY: how to make it reason? and function call in my harness? and which to do first? [D]
AI 导读
有人用 Qwen3.5-9B-BASE 在波兰法律数据上分三阶段各约 80M tokens 做 CPT,顺序为法律评注、立法(EU 与本地)、法院判决,计划后续扩到 27B 的 Qwen4。目前模型仅在小型波兰金融法律选择题上略优于 base,尚未做助手 SFT,作者纠结剩余数据该继续 CPT 还是转 SFT,以及如何教推理和 harness 内工具调用、SFT 与 RL 的先后顺序。
来源:Reddit · r/MachineLearning · reddit.com