按项目需要选择,不强推某一种方法。
监督微调(SFT):用标注样本教模型学会你的业务口径与输出格式。LoRA 等参数高效方法:只训练少量参数,算力门槛与成本更低。适合大多数「想让模型听懂我们这行话」的场景。
当行业语料与领域知识差距较大时,用领域语料继续预训练。通常作为前置步骤,再叠加微调与偏好优化。对语料质量与算力规模要求更高,需要单独评估。
当输出风格、判断偏好或安全边界需要对齐时考虑。流程与数据要求更重,通常放在微调之后。
六步走完,每一步都有可检查的产出,不是黑盒交付。
在给出任何数字之前,先要知道这几个变量。
语料是否干净、口径是否一致、标注是否可靠,通常比训练方法本身更决定结果。换基座模型,收益也可能差很多。
如果提示词和知识库已经能解决大部分问题,后训练的增量就有限。先量出基线,再谈要不要训练。
参数高效微调与全量微调在算力和成本上差一个量级;持续预训练通常还需要额外的数据准备。
脱敏、清洗、标注与格式统一往往比训练本身更费时间,这一项要单独算进去。