圣杯战争的御主们，召唤你的大模型从者吧 -----10分钟用ModelScope社区QWEN2.5大模型打造你的聊天型从者

已于 2025-02-06 22:59:10 修改
阅读量1.6k 收藏 12
点赞数 31
CC 4.0 BY-SA版权
文章标签： Fate Modelscope qwen 微调 LoRA
于 2025-01-10 19:28:03 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/a1966565/article/details/145059942

1.前言

     这是一篇趣味解读，用介绍动漫设定的方式介绍一篇有趣的大模型实践课——Modelscope社区的10分钟掌握微调大模型改变自我认知，定制专属自己的聊天机器人。10分钟使用提供免费GPU实验环境，对QWEN2.5大模型做个微调入门实验。

       作为一个fate系列粉丝以及曾经的FGO玩家，突发奇想，借助这个主题创作一篇大模型代码解读文，抒发一下对英灵从者的想念之情。

2.基础从者召唤机制（大模型调用）

2.1Fate世界的动漫设定

       “从者系统”是“创始的御三家为了圣杯战争而准备的，用来把英灵当作从者来召唤并使役的系统”。
       被召唤的英灵（从者）同御主合作，与其他从者互相厮杀。最终，大圣杯会利用“已死从者的灵魂回归到英灵之座”的现象，固定住“用来达至根源”的“连往世界外侧的孔”。

——这就是《Fate/complete material III - World material》所述的“从者系统”的全貌。

【型月世界观】“冬木圣杯战争”的本质和程序 - 知乎https://zhuanlan.zhihu.com/p/206493671        想必各位观众各自有心中最钟爱的从者，他们或许是历史长河中闪闪发光的帝王将相，亦或许是阴暗角落踽踽独行的孤胆英雄。然纵使身份各不相同，他们都因各自对泛人类史无可替代的功绩，而被英灵座记录灵魂情报。而御三家打造的从者系统，就是借由圣杯魔力（计算资源）塑造身体，并以职阶（高效微调）匹配其技能能力，而将英灵（模型镜像）召唤回现世而听从差遣（推理生成）的魔术。

        型月世界里的魔术并不是神秘主义中虚幻莫测的奇怪仪式，这是系统性继承发展的科学技术，拥有着成熟的使用方法和配套的产业体系。因此，常年浸淫魔法世界的各位御主们，都可以通过系统地学习而掌握这门技术，从而和自己心仪的从者过上没羞没臊的幸福日子。

2.2英灵和从者的前世今生

2.2.1什么是英灵

英雄生前留下丰功伟绩，死后成为传说而被人们信仰，升格为超人存在。像这样升格为超人存在的英雄，其灵魂被称为“英灵”。

现实里不存在的英雄也可以通过聚集信仰而作为英灵诞生。此外，还有在生前与世界缔结某些契约，以此作为代价而在死后成为英灵的人。

https://tse4-mm.cn.bing.net/th/id/OIP-C.xX5ecfSNElAGnNYGyEtu2AHaEe?rs=1&pid=ImgDetMain

2.2.2英灵之座

成为了英灵的存在将从时间的束缚中解脱出来，移动到位于世界外侧的英灵之座。英灵是从时间轴分离出来的存在，他们会被召唤到所有时代，不管是过去还是未来。

如图，某个时代的人物死后成为英灵之座的英灵。英灵之座位于世界的外侧，脱离时间轴，并不处于特定的时代。

如图，英灵以从者的形式在某个时代完成现界。另一方面，英灵本体仍然脱离时间轴。

2.2.3什么是从者

通过仪式，英灵被召唤到现世，成为可以被使役的存在——“从者”。作为从者而被召唤出的英灵，是使用英灵本体的情报制作成的“分身”，类似于复制品。

在从者死亡的同时，“构成从者的情报(灵魂)”会回到英灵本体的手边。英灵本体可以像阅读书籍一样，以记录的方式知晓“作为分身的从者”的行动。

冬木的“从者系统”以大圣杯的力量召唤出英灵（从者）。

【型月世界观】冬木圣杯战争的“从者系统” - 知乎

2.3如何召唤英灵为己所用

       那么，为了召唤从者来进行一些伟大的任务，我们需要梳理召唤英灵的流程。以最广为流传的冬木圣杯战争为例，召唤英灵的流程从圣杯系统的角度，经过了以下8个步骤。

2.3.1冬木圣杯战争的程序

  1. 大圣杯从地脉吸收足够的魔力
  2. 大圣杯选定“御主（Master）”
  3. 御主准备触媒
  4. 御主举行召唤仪式
  5. 御主与从者的契约
  6. 圣杯战争的开幕
  7. 圣杯战争进行中
  8. 打开并固定住“通往世界外侧的通道”

【型月世界观】“冬木圣杯战争”的本质和程序 - 知乎

2.3.2御主需要做的准备

御主准备触媒

       如果御主想召唤指定的从者（模型），需要事先准备“和英灵具有深切渊缘的触媒”（API key)。（有时候没有也可以）

       若“触媒所对应的英灵”仅有一位，御主将会召唤出这位英灵；若“触媒所对应的英灵”有多位，御主将会召唤出“触媒所对应的多位英灵中，与御主相性好的那位英灵”。

        在御主没有准备触媒的情况下，英灵是被随机选出的，不过

最低0.47元/天 解锁文章

200万优质内容无限畅学
B_DDD
关注
开源模型应用落地-qwen模型小试-Qwen2.5-7B-Instruct-Gradio快速体验（十四）
以微薄之力，予他人些许温暖.
09-20 2万+
Qwen2.5-7B-Instruct集成Gradio和vLLM
modelscope下载Qwen2.5 72B 模型方法
q742971636的博客
11-03 924
more。
有浏览器就行，手把手带你从零微调大模型！
python12345_的博客
07-09 2688
今天分享一篇技术文章，你可能听说过很多大模型的知识，但却从未亲自使用或微调过大模型。大模型微调本身是一件非常复杂且技术难度很高的任务，因此本篇文章仅从零开始，手把手带你走一遍微调大模型的过程，并不会涉及过多技术细节。希望通过本文，你可以了解微调大模型的流程。微调大模型需要非常高的电脑配置，比如GPU环境，相当于你在已经预训练好的基础上再对大模型进行一次小的训练。但是不用担心，本篇文章会使用阿里魔塔社区提供的集成环境来进行，无需使用你自己的电脑配置环境。
初学者如何对大模型进行微调？
2301_82275412的博客
06-06 2072
现在大模型微调的门槛越来越低，市场上有大量开源微调框架。只要你会部署、有机器就能出个结果，赶紧动手玩起来吧！读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用如果你是零基础小白，想快速入门大模型是可以考虑的。一方面是学习时间相对较短，学习内容更全面更集中。二方面是可以根据这些资料规划好学习计划和方向。包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！😝有需要的小伙伴，可以保存图片到。
Modelscope Qwen1.5自我认知微调实践中的JSON格式问题解析
最新发布
gitblog_07578的博客
06-28 395
Modelscope Qwen1.5自我认知微调实践中的JSON格式问题解析 在基于Modelscope平台进行Qwen1.5大语言模型自我认知微调的过程中，开发者可能会遇到一个典型的JSON格式解析错误。这个问题表面看似简单，但实际上涉及模型训练数据预处理的关键环节。 问题现象 当开发者按照官方教程执行Qwen1.5的微调流程时，系统会抛出"ValueError: malformed ...
学大模型必看！手把手带你从零微调大模型！
kiiy2的博客
07-18 1573
今天分享一篇技术文章，你可能听说过很多大模型的知识，但却从未亲自使用或微调过大模型。 今天这篇文章，就手把手带你从零微调一个大模型。大模型微调本身是一件非常复杂且技术难度很高的任务，因此本篇文章仅从零开始，手把手带你走一遍微调大模型的过程，并不会涉及过多技术细节。希望通过本文，你可以了解微调大模型的流程。
【实践】学大模型必看！手把手带你从零微调大模型！
2401_85377976的博客
08-29 1645
今天分享一篇技术文章，你可能听说过很多大模型的知识，但却从未亲自使用或微调过大模型。大模型微调本身是一件非常复杂且技术难度很高的任务，因此本篇文章仅从零开始，手把手带你走一遍微调大模型的过程，并不会涉及过多技术细节。希望通过本文，你可以了解微调大模型的流程。微调大模型需要非常高的电脑配置，比如GPU环境，相当于你在已经预训练好的基础上再对大模型进行一次小的训练。但是不用担心，本篇文章会使用阿里魔塔社区提供的集成环境来进行，无需使用你自己的电脑配置环境。
Qwen2.5 全链路模型体验、下载、推理、微调、部署实战！
热门推荐
xxue345678的博客
09-19 2万+
进行微调。在这里，我们将展示可直接运行的demo。
基于Qwen2.5-7B-Instruct的大模型微调实战指南
11-18
内容概要：本文档详细介绍了如何使用Qwen2.5-7B-Instruct大模型进行微调的具体步骤。主要内容包括环境搭建、预训练模型下载、微调准备工作、具体微调流程以及如何启用外部记录面板等。通过本文档，读者可以逐步掌握...
ollama-qwen2.5-vl 千问大模型图片推理GUI窗口程序
05-17
ollama-qwen2.5-vl 千问大模型图片需要使用代码构架推理过程，不太方，于是写了个GUI界面工具，需要提前装好ollama和qwen2.5vl 模型，即可使用此ui界面，推理了，阿弥陀佛。
DeepSeek大模型的DeepSeek-R1-Distill-Qwen-1.5B-GGUF版本，2025.2.6最新版的安装包OllamaSetup.exe
02-07
DeepSeek-R1-Distill-Qwen-1.5B-GGUF版本是DeepSeek大模型的一个重要迭代，它在原有的基础上进行了模型压缩与优化，使其在保持模型效能的同时，更加轻量化，适用于更多实际应用场景。 所谓模型压缩，是指通过特定的...
FATE ZERO英灵召唤的咒语
weixin_30542079的博客
03-08 2014
汝の身は我が下に、我が命运は汝の剣に。汝之身体，在吾之下；吾之命运，寄汝剑上。圣杯の寄るべに従い、この意、この理に従うならば応えよ响应圣杯之召唤，遵从这意志、道理者，回应我！誓いを此処に。在此立誓我は常世総ての善と成る者、吾乃成就世间一切善行之人我は常世総ての悪を敷く者。吾乃传达世间一切恶意之人/召唤berserker加入的两段:使汝之双眼混沌，心灵狂暴。被狂乱之槛所囚的囚徒。吾是操纵这根锁链的主...
Qwen2大模型微调入门实战（附完整代码）
m0_59235699的博客
06-25 2998
大模型指令微调（Instruction Tuning）是一种针对大型预训练语言模型的微调技术，其核心目的是增强模型理解和执行特定指令的能力，使模型能够根据用户提供的自然语言指令准确、恰当地生成相应的输出或执行相关任务。指令微调特别关注于提升模型在遵循指令方面的一致性和准确性，从而拓宽模型在各种应用场景中的泛化能力和实用性。在实际应用中，我的理解是，指令微调更多把LLM看作一个更智能、更强大的传统NLP模型（比如Bert），来实现更高精度的文本预测任务。
使用 ollama 部署本地模型，零基础入门到精通，非常详细收藏我这一篇就够了
m0_65555479的博客
08-15 3043
在本地启动并运行大型语言模型。运行Llama 2，Code Llama和其他模型。自定义并创建您自己的。
大模型预训练记录
qq_55773484的博客
10-10 735
遇到的问题：训练崩掉了（模型不讲人话）。因为学习率太高需要调低点，lr=1e-5就可以，同时要修改loss更新的频率，不能没chunk都更新，大概4chunk一次更新差不多。前提：任务要求3w篇pdf文献用来预训练，采用MinerU转换为markdown格式，对markdown格式初步清洗用来预训练测试。选用qwen为基座模型，采用lora预训练。加载测试代码采用qwen官方的。
LLM思考
qq_31003875的博客
06-26 1242
使用 大规模数据 训练出来的成果就是 权重参数文件，这就像学生学习了10多年的知识。 transform加载模型配置初始化参数，就是准备硬件，感觉就像准备一个合格的成熟的空白大脑。当大脑和知识结合之后，就可以进行推理了。
大模型本地部署
DominaterWE的博客
12-01 3034
为了运行之后本地部署的Qwen-7B-Chat模型，我们需要根据要求在Anaconda中安装一个满足模型运行要求的虚拟环境，其官方的配置环境要求如下，这里配置的环境为使用GPU Pytorch的版本。点击其中的模型文件，进入模型文件页面，之后点击右侧的下载模型。第二步：安装通义千问官方说的运行Qwen-7B需要安装的依赖。第一步：安装modelscope可以用来下载模型。SDK安装安装工具包下载。设置模型的下载地址。
Modelscope项目中Qwen-14B-Chat模型量化转换问题分析
gitblog_07200的博客
06-28 438
Modelscope项目中Qwen-14B-Chat模型量化转换问题分析 问题背景 在Modelscope项目中使用Qwen-14B-Chat模型时，开发者遇到了一个值得关注的技术问题：当采用不同方式加载模型时，模型表现出现了显著差异。具体表现为，通过Modelscope标准方式加载的模型能够正常进行对话交互，而经过GGUF格式转换和量化处理后，模型却出现了功能退化现象，从对话模型退化为仅能进行文...
阿里多模态大模型Qwen2.5-VL-7B ，本地部署实践
04-23
### 阿里Qwen2.5-VL-7B多模态大模型本地部署教程 #### 准备工作 为了成功完成阿里Qwen2.5-VL-7B多模态大模型的本地部署，需先准备好必要的环境配置以及相关工具。具体操作如下： 1. **克隆代码仓库** 使用Git命令获取官方发布的Qwen2.5-VL项目源码并安装所需依赖项。执行以下命令可以实现这一目标： ```bash git clone https://github.com/QwenLM/Qwen2.5-VL.git cd Qwen2.5-VL pip install -r requirements.txt ``` 这一步骤确保了开发环境中具备运行该模型所需的全部Python包[^3]。 2. **下载模型文件** 下载完整的Qwen2.5-VL-7B模型权重至指定目录下以便后续加载使用。通过ModelScope平台提供的命令行工具可轻松完成此任务： ```bash modelscope download --model Qwen/Qwen2.5-VL-7B-Instruct --local_dir /path/to/local/directory ``` 此处`/path/to/local/directory`应替换为你希望存储模型的实际路径位置[^1]。 #### 启动服务端口 当准备工作完成后，则可以通过启动HTTP API服务器来对外提供推理接口访问权限。利用vLLM框架能够显著提升性能表现水平，在实际测试过程中发现即使是拥有较大规模参数量级的大语言模型也能达到非常理想的响应速度效果。 启动指令如下所示： ```bash vllm serve Qwen/Qwen2.5-VL-7B-Instruct --port 8000 ``` 上述命令将会把监听地址绑定到本机IP上的8000端口号上等待客户端发起请求调用[^2]。 #### 测试验证环节 最后建议编写简单的脚本来检验整个流程是否正常运作无误。下面给出了一段基于Python SDK 的例子供参考学习之用： ```python import requests url = 'http://localhost:8000/v1/completions' payload = { "prompt": "你好", "max_tokens": 50, } headers = {"Content-Type": "application/json"} response = requests.post(url, json=payload, headers=headers) print(response.json()) ``` 以上即为针对阿里巴巴集团推出的最新一代超大规模预训练加微调优化后的版本——Qwen2.5系列中的视觉语言理解方向子型号(Qwen2.5-VL)实施本地化私有云端实例的具体实施方案概述说明文档内容总结整理而成的结果呈现形式之一部分而已[^1]^。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值