Fine-tuning

大模型微调

数据、训练、部署与评测

13 篇 · 约 66 分钟

预训练（ Pretraining ）：让模型学会说话预训练是大模型训练的第一步，也是最烧钱、最耗算力的一步。训练的本质是在海量参数与数据训练过程中，通过统计学习逐渐形成能力。将海量知识（维基百科、新闻、书籍、网页、代码等）全部喂…

什么是模型微调模型微调是拿一个已经训练好的大模型，用自己的数据再训练一轮，让它更适合你的业务场景。绝大部分场景根本用不到微调。微调本质上是大模型算法工程师干的活。背后涉及大量的数学公式、最优化理论、强化学习、概率统计等。作为大…

模型微调（Fine tuning）是深度学习中的一项关键技术，它允许我们在现有的预训练模型（Pre trained Model）或者在一些已经进行过后训练的模型的基础上，利用特定领域的小规模数据集进行二次训练。简单来说，如果预训练…

服务器选择可以从Autodl租一台服务器，或者modelscope也有一定免费的额度，GPU的选择需要参考你要训练的模型大小以及数据来决定，可以参考下面的来估计： AutoDL为您提供专业的GPU租用服务，秒级计费、稳定好用，高规…

上一节课我们准备好了训练服务器，选好了镜像，也验证了基础环境。接下来就要开始装训练相关的框架和工具了。但在动手之前，我们需要先回答一个问题：用什么框架来训练？为什么需要训练框架为什么不直接用 PyTorch 写代码来训练？网上…

上一节课我们选好了训练框架 ms swift，接下来就把整个训练环境搭建起来。这一步是整个流程里最容易出问题的地方。版本之间的兼容性非常容易出问题。核心类库大模型训练和推理涉及的核心类库，有一条从底层到上层的依赖关系：

数据集从哪来微调效果好不好，80% 取决于数据质量。Garbage In, Garbage Out（GIGO）。数据准备是微调流程中最花精力的环节。开源免费的数据集渠道：开源数据集平台： ModelScope（国内）和 Hug…

SwanLab SwanLab 是一款 AI 训练分析平台，提供训练可视化、自动日志记录、超参数记录、实验对比、多人协同等功能，帮助团队快速发现训练问题，加速模型迭代。我们可以将训练日志上传到 SwanLab 平台，可视化地观测模…

场景二：医疗问答数据集微调上一节课我们完成了自我认知微调，接下来换一个更实际的场景：基于医疗问答数据集对 Qwen3 0.6B 进行 LoRA 微调。执行命令：

训练跑完了，但到底训得好不好？这节课我们就来拆解训练过程中的几个关键指标，教你怎么看训练结果。我用之前一次医疗数据集训练作为例子来说明，先看一眼这次训练的基本情况。指标数值数据集总量 2176 条 Epoch 5 Globa…

前面的课程我们完成了模型微调，拿到了训练好的 checkpoint，也通过训练指标初步验证了训练效果。但训练完不等于能用，业务代码调不了，前端页面对接不了。这节课我们就来解决这个问题：怎么把训练好的模型部署成一个可用的服务。在正式…

前面的课程我们讲了怎么看训练指标，也讲了训练指标好不代表模型真正好用。这节课主要讲的是模型评测的方法论：训练完了之后，怎么系统性地评估模型效果。训练指标和模型评估的区别训练时的验证集（val.jsonl）主要用于监控泛化能力（L…

这节课我们动手实操，评估一下之前微调的自我认知模型。规则测评评测思路纯粹的 pass / fail 粒度太粗了，比如模型回答"我是AI助手"和"我是王小锤，由王大锤开发"，按规则都是"没触发红线"但质量天差地别。所以这边用一…