微调这件小事：训练集中的输入数据该作为instruction还是input？从LLaMA-Factory的源码中寻找答案吧~

已于 2025-03-23 21:56:27 修改
阅读量1k 收藏 10
点赞数 15
CC 4.0 BY-SA版权
分类专栏： 大模型应用与实战 文章标签： LLaMA-Factory instruction input system prompt Deepseek 微调数据集 大模型微调
于 2025-03-23 21:52:41 首次发布
本文为博主原创文章，未经博主允许不得转载，听见没。
本文链接：https://blog.csdn.net/jining11/article/details/146127759

在之前的博文中，我们已经了解了LLaMA-Factory框架执行各类任务的流程。今天，我们将深入探讨SFT微调过程中关于数据集的两个关键问题：

  1. 数据集中的instruction和input是如何结合起来生成大模型可以理解的输入的？instruction是不是就是system prompt呢？（之所以会问这个问题，是因为我发现有的数据集将输入作为instruction，有的作为input，而它们在效果上基本没有区别）
  2. 模板(template)是如何起作用的？它如何将文本数据转换为模型可以理解的格式？

这两个问题其实在处理流程上是一体的，由于篇幅限制，我们这里先聚焦于第一个问题。

文章目录

🎉进入大模型应用与实战专栏 | 🚀查看更多专栏内容

在这里插入图片描述

SFT微调整体流程

在之前这篇博文

了解本专栏 订阅专栏 解锁全文 超级会员免费看
微调这件小事：模板是什么？一文从LLaMA-Factory源码看穿Template的面纱
羊城迷鹿的博客
03-29 896
我们已经得知了instruction所真正扮演的角色，下面我们就在保持调试方法不变的情况下，沿着数据集处理的逻辑往前一步，继续探索关于Template的一些细节，搞懂模板这个总是碰到又说不太清的关键概念。模板从复杂的格式（支持工具调用、思考过程等）转换为简化的Jinja2格式，便于与tokenizer集成。
LLaMA Factory多卡微调的实战教程（持续更新）
热门推荐
herosunly的博客
06-12 25万+
本文主要介绍了LLaMA Factory多卡微调的实战教程（持续更新），希望对学习大语言模型的同学们有所帮助。 文章目录 1. 前言 2. 配置环境 2.1 安装虚拟环境 2.2 安装依赖库 2.3 模型选型与下载 2.4 配置多卡环境 3. 运行代码 3.1 构建训练数据 3.2 修改配置文件 3.3 微调 3.3.1 zero3微调 3.3.2 启动API 3.3.3 模型测试
Datawhale AI冬令营 动手学定制你的专属大模型 - Task 1
2303_76215922的博客
12-09 279
它明确地将任务指令和输入内容分离开来，能够很好地适用于各种自然语言处理任务，像文本生成、翻译、总结等任务，尤其适合单轮的、以任务为导向的指令微调任务。综上，定制一个自己的专属大模型最方便的步骤 ≈ 指定数据集 + 开源大模型 + 微调平台。：在给定指令和输入的情况下，模型需要生成的期望输出，也就是对应的正确结果或参考答案。：任务的指令，模型需要完成的具体操作，一般可以对应到用户输入的 Prompt。：任务所需的输入内容。若任务是开放式的，或者不需要明确输入，可以为空字符串。
AI大模型微调：使用LLaMA-Factory进行大模型微调
pythonhy的博客
11-27 3026
在人工智能领域，大模型微调是一个热门话题，尤其是在自然语言处理（NLP）领域。本文将介绍大模型中的instruct、chat和base模型的不同点，探讨常见的微调框架，并分享我所使用的微调框架及其GitHub地址，最后详细介绍我的微调步骤。
大规模语言模型微调技术——Instruction和Question的区别和联系
刘炫320的博客
05-18 5885
在ChatGPT的时代，每个人都能够轻松使用这一强大的语言模型。这一切的实现速度比我之前所想象的要快得多。这得益于大规模语言模型微调技术，其实并没有引入太多新颖的元素。特别是有了ChatGPT作为引路人，许多事情变得更加容易和简单。尤其是借助LLaMA开源项目为基础，许多模型都是以LLaMA作为基座模型，并通过微调特定的指令数据集来实现与ChatGPT的对齐。
#03 【chatglm】微调大模型的问题要放在哪个字段？四五个样本怎样让大模型记住？
ouhuixiong的博客
08-02 2228
今天，在【NLP学习群】中，一位同学一下问了2个问题，相信大家在微调时也会遇到这样的问题，自己问题应该放在instruction、input、output哪个字段，用什么格式去训练呢？还有同学是几年前的老爷机/笔记本，或者希望大幅提升部署/微调模型的速度，我们应用了动态技术框架，大幅提升其运算效率（约40%），节省显存资源（最低无显卡2g内存也能提升），工众后台：“加速框架”；如果你还不知道该怎么微调训练模型，我系统更新了训练和微调的实战知识库，跟着一步步做，你也能把大模型的知识真正应用到实处，产生价值。
LLMs和GPT的相关概念
L_goodboy的博客
07-17 5596
LLMs和GPT的相关概念，prompt、instruction、input和response在LLMs中的作用和区别；在LLMs中temperature、top p、top k、beams、stream output 分别表示的含义
一些LLM的知识
fzcoolbaby的博客
07-23 1507
为了消除这一影响，Prompt Tuning技术应运而生，P-Tuning V1将自然语言提示的token，替换为可训练的嵌入，同时利用LSTM进行Reparamerization加速训练，并引入少量自然语言提示的锚字符(anchor)进一步提升效果。预训练是做自回归，即随机地把文本的某些单次通过mask遮挡起来，通过文本的上下文来预测被遮挡的词是什么，本质上是无监督学习，不需要人工贴标签，所以可以收集海量的数据进行预训练。在大型语言模型中，"token"是指文本中的一个最小单位。
LLaMA Factory单机微调的实战教程
herosunly的博客
04-24 21万+
本文主要介绍了使用LLaMA Factory对大模型进行单机微调的实战教程，希望对学习大语言模型的同学们有所帮助。 文章目录 1. 前言 2. 配置环境 2.1 安装虚拟环境 2.2 安装依赖库 2.3 模型选型与下载 3. 运行代码 3.1 构建训练数据 3.2 修改配置文件 3.3 微调
LLaMA Factory多卡微调的实战教程
herosunly的博客
04-25 21万+
本文主要介绍了LLaMA Factory多卡微调的实战教程，希望对学习大语言模型的同学们有所帮助。 文章目录 1. 前言 2. 配置环境 2.1 安装虚拟环境 2.2 安装依赖库 2.3 模型选型与下载 2.4 配置多卡环境 3. 运行代码 3.1 构建训练数据 3.2 修改配置文件 3.3 微调 3.3.1 zero3微调 3.3.2 启动API 3.3.3 模型测试
LLM-微调-0参数微调：Prompt-tuning（离散型）【用简短的提示/问题/示例（prompt）为模型提供了上下文来指导模型执行特定任务】【本质：使用训练好的LM估计给定条件下的条件概率分布】
u013250861的博客
08-03 392
在解决这一问题的过程中，Prompt（提示语）的重要性日益凸显。Prompt是一种简短的文本片段，用于引导大模型生成特定类型的输出。它们可以是问题、指令、示例等形式，为模型提供了上下文和方向。通过巧妙设计的Prompt，我们能够引导模型生成更加准确、有针对性的回答和创造性的输出。大模型语言模型在多个领域展现了强大的能力。然而，随着模型的增长和复杂性的提升，如何引导模型生成准确、有价值的输出成为了一个关键问题。大模型的输出相当于研发人员研发出的产品；需求文档越详细，研发出的产品就越符合预期。
数据集准备
m0_67876774的博客
06-24 2452
"第一轮指令（选填）", "第一轮回答（选填）"],["第二轮指令（选填）", "第二轮回答（选填）"]"instruction": "人类指令（必填）","system": "系统提示词（选填）","system": "系统提示词（选填）","output": "模型回答（必填）","input": "人类输入（选填）","value": "人类指令""value": "工具参数""value": "工具结果""value": "模型回答""tools": "工具描述（选填）"
大模型训练的一些经验汇总
老李的人工智能和大数据之路
12-10 1214
大模型训练的经验汇总，持续更新。
LLaMA-Factory 训练数据默认使用 instruction、input、output 三个 key
陈开心的博客
03-14 1582
LLaMA-Factory 训练数据默认使用 instruction、input、output 三个 key。 ✅ 确保 JSON 格式正确，否则模型无法正确学习。 ✅ 如果要自定义 key，建议修改 LLaMA-Factory 的代码（不推荐），或保持默认格式。 ✅ 数据结构要根据任务类型调整，比如： 问答、闲聊：instruction + output 翻译任务：instruction + input + output 代码生成：instruction + output 文本摘要：instructio
Linux C编程一站式学习 1.程序的基本概念
weixin_40757449的博客
04-08 274
1程序的基本概念： 程序和编程语言： 程序由一系列指令（Instruction）组成，指令是指示计算机做某种运算的命令，通常包括以下几类： 输入（Input） 从键盘、文件或者其它设备获取数据。 输出（Output） 把数据显示到屏幕，或者存入一个文件，或者发送到其它设备。 基本运算 执行最基本的数学运算（加减乘除）和数据存取，其实输入和输出也属于数据存取。 测试和分支（Branch） 测试某...
大模型微调（Fine-Tuning）全流程思考
2401_85343303的博客
12-25 674
💡建议严格按照此流程来，不要跳步，不然可能会做无用功。比如如果没有好好构建数据集，最后发现微调模型效果不佳是数据集的问题，就事倍功半了。
大模型--意图对齐--Instruction Tuning
u012492756的博客
09-24 1486
小说大模型微调：基于DeepSeek的数据集准备与训练策略实战
skygulangfendouz的专栏
04-12 1477
DeepSeek-R1是一款基于混合专家（MoE）架构的大型语言模型，拥有671B参数，但每次推理仅激活37B参数，显著降低了计算成本。高性能与推理能力：DeepSeek-R1在数学、编程、逻辑推理等任务上表现出色分布式训练支持：支持分布式训练，通过将训练过程分散到多个计算节点上，提高训练效率低资源要求：通过MoE架构设计，降低了推理时的计算资源需求DeepSeek模型有多种版本，参数规模、技术架构、应用场景各不相同。
【AGI】大模型微调数据集准备
最新发布
LeeZhao的博客
05-18 1157
大模型微调数据集准备
评论 7
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

羊城迷鹿

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值