跳转至

模型微调

模型微调(Fine-tuning)是在预训练模型的基础上,用少量领域数据继续训练,让模型掌握特定业务知识、输出风格或任务格式。相比提示词工程,微调把领域知识固化到模型权重中,推理时无需反复堆叠上下文,输出更稳定、Token 成本更低;相比继续预训练,微调所需的数据量和算力小得多,通常数张 GPU 即可完成一轮训练。

大模型服务平台把微调拆解为模型、数据集、配置、任务、评估、导出六个可复用的对象:模型权重和数据集版本可以被多组微调配置引用,配置保存训练参数后可以反复发起任务,每次训练都会产生独立的记录和输出,评估确认效果后再导出为可部署的模型。这样每次实验的输入、参数和结果都可追溯,也能在不影响线上模型的前提下反复迭代。

微调流程

按以下顺序完成六个阶段。点击图中任一阶段可跳转到对应的操作文档;评估结果未达标时,回到微调配置调整参数重新训练即可,无需重复准备模型和数据集。

flowchart TB
    M1["1 模型管理<br/>选择模型与权重文件"]
    M2["2 数据集管理<br/>登记训练数据及版本"]
    M3["3 微调配置<br/>微调方法、资源与训练参数"]
    M4["4 微调任务<br/>按配置执行训练"]
    M5["5 评估任务<br/>用评估集验证效果"]
    M6["6 导出任务<br/>导出可部署的模型"]

    M1 --> M2 --> M3 --> M4 --> M5
    M5 -->|"达标"| M6
    M5 -.->|"不达标:调整参数后重新训练"| M3

    click M1 "create-model/"
    click M2 "create-dataset/"
    click M3 "create-finetune-config/"
    click M4 "create-finetune-task/"
    click M5 "create-evaluation-task/"
    click M6 "create-export-task/"

提示

  • 六个阶段需在同一个工作空间内完成,开始前请先切换到目标工作空间。
  • 评估任务和导出任务依赖状态为 成功 的微调任务,必须先完成训练。
  • 微调配置可复用于多轮任务:评估结果不理想时,调整配置参数后重新创建任务,模型和数据集无需重新准备。

下载中心 了解 Token 工厂效能平台 了解 d.run AI 操作系统

评论