本文档详细介绍了如何在CentOS系统、多张A800 GPU环境下，使用Alpaca-Lora代码复现LLaMA-7B模型的QLoRA微调过程。内容涵盖环境配置、虚拟环境创建、模型文件转换、数据集准备、模型微调与显存占用检查，以及模型推理的两种方法和显存占用对比。此外，还涉及到了微调LLaMA-65B-QLoRA大模型的单卡与多卡方案。
LLMs之LLaMA-7B-QLoRA：基于Alpaca-Lora代码在CentOS和多卡(A800+并行技术)实现全流程完整复现LLaMA-7B—安装依赖、转换为HF模型文件、构造数据集(Alpaca利用ChatGPT生成52K指令数据集+多份json格式)、模型微调(微调7B-QLoRA=单卡/8卡【7B仅2H+各卡不到6G】—微调65B-QLoRA(单卡GPU微调=5个小时+仅48G，多卡微调【8张GPU】=每单卡仅10G))、模型推理(仅7G+对比终端命令/llama.cpp/Docker封装)图文教程之详细攻略
目录
1.1、环境配置：CentOS 7+CPUs【1TB+64个CPU+16核】+GPUs【8卡A800-80G】
1.2、创建并激活虚拟环境+安装依赖：qlora-venv-py310-cu117
Py之accelerate：accelerate的简介、安装、使用方法之详细攻略
2.1、源自Alpaca利用ChatGPT生成52K指令数据集(多份json格式)
LLMs之Data：Self Instruction思想(一种生成指令数据集的方法论—主要用在指令微调阶段)的简介、Alpaca/BELLE应用、实战案例代码实现之详细攻略
3.1、命令微调：复现LLaMA_7B = 基于LLaMA_7b_HF模型+QLoRA微调+alpaca_data_cleaned.json数据集——不到2小时——获得llama-7b-qlora文件
PTMs：QLoRA技巧之源码解读(qlora.py文件)—解析命令与加载参数→数据预处理→模型训练+评估+推理
T1、基于合并后的权重文件进行模型推理：单卡GPU+显存占用不到6G
(1)、合并模型权重：llama-7b-merge = hf-llama-model + llama-7b-qlora
将lora权重合并base模型权重还可以通过merge_and_unload()方法
T2、不进行合并权重，直接进行推理：单卡GPU+显存占用7G左右
LLMs之llama_7b_qlora：利用inference_qlora.py(模型推理)使用LORA权重来初始化预训练的LLAMA模型来进行文本生成(基于用户交互输入的上下文生成新文本)
订阅专栏 解锁全文
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
