【langchain】实战笔记-Langchain-Chatchat win10本地部署FAQ（持续更新）

原创 已于 2024-02-01 10:07:20 修改 · 4.3k 阅读 · 30 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#langchain #chatgpt #chatgpt-glm

于 2024-01-26 15:54:00 首次发布
本文聚焦 Langchain-Chatchat 新版本安装部署问题与解决方法。记录了 V0.2.10、V0.2.9、V0.2.8 版本更新，包括重要提示、新增功能与问题修复。还提供模型文件共享、快速安装命令，解答常见安装问题，并列出待解决问题。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

      在发布了《 Langchain-Chatchat-win10本地安装部署成功笔记（CPU）》后，有不少同学给我私信，说根据我的文档安装成功，也有不少人在安装过程报错了，我的文章是基于V0.2.6版本写的，大部分都是因为升级版本引起的。当前最新版本是V0.2.10，经过验证V0.2.9按照原来的文章或官网的安装部署文档说明进行私有化安装部署都会出现一些问题,建议用V0.2.10版本。

本文专注记录安装部署新版本出现的问题和解决方法。

版本更新记录

V0.2.10

重要提示

Langchain-Chatchat v0.2.10 版本中修改了configs中配置项，建议所有用户按照 Wiki 的开发部署中的相关描述重新完成项目中的配置文件生成。开发部署过程遇到问题请先到 Github Wiki / issues 中搜索。

本次更新中依赖 Python 包与其版本发生了大量更新，请使用pip install -r requirements.txt进行更新。

此版本为 v0.2.x系列最后一个版本，具备全新 Agent 功能的 v0.3.0即将上线，敬请期待。

新增功能

问题修复

最低0.47元/天 解锁文章

200万优质内容无限畅学
Langchain-Chatchat本地部署的解决方案
herosunly的博客
08-28 17万+
本文主要介绍了Langchain-Chatchat本地部署的解决方案，希望对学习大语言模型的同学们有所帮助。 文章目录 1. 前言 2. 配置环境 2.1 安装虚拟环境 2.2 安装依赖库 3. 启动xinference 4. 启动Langchain-Chatchat
Langchain-Chatchat本地部署
我想问问天的专栏
03-10 4871
虽然使用Chatchat整个过程中的坑还是挺多的，但是至少跑起来了，而且在跑这个项目中遇到了很多自己没有接触过的知识。比如量化模型这个概念，是在优化返回速度的时候才知道可以把模型的精度改小，提高计算速度。现在本地还只运行成功了项目本身支持的几个模型，像界面中的知识库问答，文件对话，搜索引擎问答，自定义agent都还没跑成功，还有挺多东西要去研究和尝试的，还是挺有意思的。我想了想后面可能会针对其他的几个模式也写一些记录。
Windows10 Langchain-Chatchat 本地部署+常见问题解决+避坑指南（从0开始部署，附带全部模型安装包）
good_good_study5的博客
03-25 8680
Windows10 Langchain-Chatchat 本地部署+常见问题解决+避坑指南,从0开始部署，附带全部模型安装包
Langchain-Chatchat本地部署记录，三分钟学会！（非常详细）从零基础到精通，收藏这篇就够了！
最新发布
Python_0011的博客
07-04 770
虽然使用Chatchat整个过程中的坑还是挺多的，但是至少跑起来了，而且在跑这个项目中遇到了很多自己没有接触过的知识。比如量化模型这个概念，是在优化返回速度的时候才知道可以把模型的精度改小，提高计算速度。现在本地还只运行成功了项目本身支持的几个模型，像界面中的知识库问答，文件对话，搜索引擎问答，自定义agent都还没跑成功，还有挺多东西要去研究和尝试的，还是挺有意思的。我想了想后面可能会针对其他的几个模式也写一些记录。如何学习AI大模型？我在一线互联网企业工作十余年里，指导过不少同行后辈。
小白的本地Langchain-Chatchat部署笔记
aqdfxx的博客
06-08 2991
这里的Ubuntu只是微软合作研究的Ubuntu-LTS 版，不是真正的Ubuntu,不过已经模拟的很成功了，绝大部分Ubuntu的功能和命令，在这个版本里都很好的运行，大大方便了我们在windows和 Linux两种环境里来回切换。学习完了，重新部署，上文的准备工作完成后，第一步就建立专用的虚拟环境，以后始终在这个虚拟环境里操作，包括安装项目的依赖，拉取模型，修改配置，初始化知识库，启动项目，直至部署成功。初始化过程，电脑风扇狂飙，CPU飙到100%，GPU飙到46%，内存飙到95%。
Langchain-Chatchat-win10本地安装部署成功笔记（CPU）
热门推荐
xqdd的专栏
11-06 1万+
Langchain-Chatchat（原Langchain-ChatGLM）基于 Langchain 与 ChatGLM 等语言模型的本地知识库问答 | Langchain-Chatchat (formerly langchain-ChatGLM), local knowledge based LLM (like ChatGLM) QA app with langchain。
本地部署 langchain-ChatGLM
kuokay的博客
06-05 4449
大型语言模型（LLM）正在成为一种变革性的技术，使开发者能够建立他们以前无法建立的应用程序。然而，孤立地使用这些LLM往往不足以创建一个真正强大的应用程序–当你能将它们与其他计算或知识来源相结合时，真正的力量才会出现。这个库的目的是协助开发这些类型的应用。langchain 使用 Transformer 模型，并在多个语言间建立链式结构实现翻译。比如，它可以通过英语→法语→西班牙语完成英语到西班牙语的翻译。langchain 只使用公开数据集进行训练，不需要额外的数据。WMT2014英法翻译数据集。
Langchain-Chatchat-win10本地安装部署笔记（CPU）
weixin_56450431的博客
01-24 3279
Langchain-Chatchat（原Langchain-ChatGLM）基于 Langchain 与 ChatGLM 等语言模型的本地知识库问答 | Langchain-Chatchat (formerly langchain-ChatGLM), local knowledge based LLM (like ChatGLM) QA app with langchain。开源网址：https://github.com/chatchat-space/Langchain-Chatchat。
Langchain-Chatchat本地部署记录
2401_84495872的博客
10-24 1441
虽然使用Chatchat整个过程中的坑还是挺多的，但是至少跑起来了，而且在跑这个项目中遇到了很多自己没有接触过的知识。比如量化模型这个概念，是在优化返回速度的时候才知道可以把模型的精度改小，提高计算速度。现在本地还只运行成功了项目本身支持的几个模型，像界面中的知识库问答，文件对话，搜索引擎问答，自定义agent都还没跑成功，还有挺多东西要去研究和尝试的，还是挺有意思的。我想了想后面可能会针对其他的几个模式也写一些记录。
AI菜鸟向前飞 — LLM简介
2401_82469710的博客
05-11 1725
AI菜鸟向前飞 — LLM简介
Langchain-Chatchat 部署本地知识库
Sumkor的博客
02-23 4784
使用 LangChain-Chatchat，基于在线 LLM 模型（智谱AI API）和离线 Embedding 模型（text2vec-base-chinese 或 bge-base-zh-v1.5）搭建本地知识库。
大模型入门实战：通过 HuggingFace 调用 Llama3
python12345_的博客
01-10 1785
至此，我们成功演示了如何通过 Hugging Face 的 Transformers 调用 Llama 模型，并获取了模型的回答。但是如果你的需求只是简单地调用模型，而无需进行微调或复杂的部署，可以尝试使用 Ollama。它不仅操作更加便捷，还提供了开箱即用的 RESTful 接口，适合快速集成到生产环境中。下一篇，我将会讲解如何通过 Ollama 下载部署 Llama 模型并调用。
本地部署LangLangChain-Chatchat
2301_76166709的博客
03-24 1191
该模块主要定义了如下配置的设置配置管理：通过pydantic和实现配置文件的加载和管理。路径管理：定义了项目的根目录、数据目录、日志目录等路径。模型配置：定义了与模型相关的配置，包括默认模型、平台配置、工具配置等。工具配置：定义了与工具相关的配置，如本地知识库、搜索引擎、SQL 查询等。Prompt 模板：定义了不同场景下的 Prompt 模板，用于与 LLM 交互。
langchain本地部署
weixin_43105912的博客
12-27 1155
如果要使用 milvus/pg_vector 等向量库，请将 requirements.txt 中相应依赖取消注释再安装。模型：(https://github.com/chatchat-space/Langchain-Chatchat?官网：https://pytorch.org/get-started/previous-versions/##发现是transformers版本问题，transformers 4.35.2 降低4.34.0。#以上两个模型下载很慢，从网上找到模型库，clone下来即可。
RAG：本地部署Langchain-Ollma(Windows)
MurphyStar的博客
07-01 2862
RAG，即“Retrieval Augmented Generation”（检索增强生成），是一种结合了检索和生成技术的自然语言处理模型。它主要用于文本生成任务，能够利用外部知识源来增强生成的文本，从而提高生成质量。相较于微调技术，RAG能够更加短平快的吸纳本地知识并整合大模型进行问答。因此本地部署了一个基于Langchain🦜🔗 + Ollma🐫的RAG应用，以检索本地知识库生成回答。
windows环境下的langchain-ChatGLM的本地部署
muwpq的博客
06-18 5438
在windows本地安装langchain-ChatGLM遇到了大量的坑，最终安装成功，网上没有一个完整的教程，希望这个分享能帮助到大家
Langchain本地知识库部署
maxcode
01-23 364
本方案通过搭建一个本地 AI 知识库，具备高效检索、智能问答的能力。✅本地部署，确保数据安全✅FAISS 高效检索，提高查询速度✅结合 LLM，提供精准回答✅可扩展性强，支持多种优化方向。
本地部署langchain-Chatchat+Qwen-1_8B-Chat
weixin_64515303的博客
03-07 130
1、首先拿到项目，先创建虚拟环境，安装所需要的依赖包这里注意！pytorch的版本！！2、根据自己本地的地址，修改模型的地址如果顺利的话，应该此时项目就可以跑起来了！！！此时的页面是langchain自带的框架。注意：这里可能会遇到依赖包版本不兼容的问题，可以使用pip check命令查看哪些包版本有冲突，根据要求进行调整即可。3、第三步运行gradio_ui.py文件，这是自己本地搭建的一个前端页面。这里我遇到了一个问题起初以为是代码逻辑问题，多次修改代码之后，gradio页面一直加载。
langchain-chatchat本地部署
03-11
为了在本地成功部署 Langchain-Chatchat，需遵循一系列特定指令来设置开发环境并运行应用程序。 创建名为 `chatchat` 的 Conda 虚拟环境，并指定 Python 版本为 3.11[^1]： ```bash conda create --name chatchat ...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

码农丁丁

你的认可是我创作最大的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值