【AI】使用阿里云免费服务器搭建Langchain-Chatchat本地知识库

已于 2023-12-25 12:02:18 修改
阅读量4.3k 收藏 60
点赞数 36
CC 4.0 BY-SA版权
分类专栏： 人工智能 文章标签： 人工智能 阿里云 langchain 本地知识库
于 2023-12-25 12:01:12 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zhoulizhu/article/details/135194056
本文讲述了作者因本地GPU资源不足，如何利用阿里云免费GPU服务来搭建Langchain-Chatchat的知识库，包括服务器准备、依赖安装、模型下载、初始化配置和运行模型的过程，以及遇到的内存问题解决方案。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

书接上文，由于家境贫寒的原因，导致我本地的GPU资源无法满足搭建Langchain-Chatchat本地知识库的需求，具体可以看一下这篇文章，于是我只能另辟蹊径，考虑一下能不能白嫖一下云服务器资源，于是去找网上找，您还别说，还真有，具体的领取方法可以查看我的这篇文章：【AI】阿里云免费GPU服务资源领取方法。

1.准备工作

1.1进入云服务器

服务器资源准备好之后就可以去做我们的开发任务了，首先在阿里云人工智能PAI控制台打开我们的实例。
在这里插入图片描述
打开之后如下图所示：
在这里插入图片描述

1.2查看服务器磁盘情况，创建本地工作目录

这一步可以省略，只是为了保险起见，我们查看一下磁盘容量及挂载情况，因为模型通常比较大，会比较浪费磁盘资源，我们先查看一下最大的磁盘资源挂载哪个目录下面，可以在那个目录下面操作我们的数据。

在主界面的Terminal页面，输入lsblk查看磁盘挂载情况：

最低0.47元/天 解锁文章

200万优质内容无限畅学
基于本地知识库的大模型搭建教程
qq_45179513的博客
11-01 8630
基于本地知识库大模型搭建教程
阿里云dsw服务器部署Langchain-Chatchat
weixin_45064121的博客
03-10 1953
报错的原因是无法在线下载模型，解决方法是把刚才下载的模型所在路径配置到配置文件中，从本地加载模型。该项目用的模型为huggingface的chatglm3-6b和bge-large-zh，huggingface地址国内在线无法访问，选择使用魔塔社区的模型库。cuda版本为11.8，pytorch匹配的cuda版本为12.1，可能是镜像有问题，解决方法是卸载pytorch。报错的原因是pytorch版本和cuda版本不匹配，查看pytorch版本和cuda版本。创建完成后，资源准备和启动需要等待一段时间。
Langchain-Chatchat大语言模型本地知识库的踩坑、部署、使用
积跬步，至千里。
12-08 1万+
Langchain-Chatchat是一个基于ChatGLM大语言模型与Langchain应用框架实现的大语言模型本地知识库应用项目。
AI 知识数据库搭建方案：从需求分析到落地实施
最新发布
LXP
06-13 1041
1. 明确业务场景与知识需求场景导向客服问答：需聚焦产品知识库、常见问题（FAQ）的快速检索；智能决策：如金融风控，需整合规则库、案例库与实时数据；研发辅助：需存储技术文档、专利知识及代码片段。知识类型梳理结构化数据：数据库表、指标数据；非结构化数据：文档、日志、多媒体文件；半结构化数据：JSON 配置、XML 文档。2. 确定核心技术目标存储规模：预计 TB 级还是 PB 级数据量？是否支持弹性扩展？响应速度：实时检索（毫秒级）还是批量处理（分钟级）？
如何通过AI搭建自己的知识库（智能体）？零基础入门到精通，看这篇就够了！赶紧收藏！
Java癫疯的博客
02-28 6993
"扣子"是由字节跳动公司于2024年2月1日推出的一款集成AI智能体开发平台。它开创了国内AI聊天机器人快速开发的先河。▲扣子首页下面是扣子平台创建Bot的页面，对于初次使用的伙伴来说功能确实很多，但不知道从何下手搭建智能体。▲扣子智能体搭建页面。
小白保姆级教学：如何高效搭建ai知识库
LookLook同学的博客
05-21 2387
在人工智能（ai）日新月异的今天，拥有一个高效且全面的知识库是每个企业重要的一部分。对于新手来说，搭建ai知识库可能听起来有些复杂，毫无头绪，但是别担心，这篇小白保姆级教学将带你一步步了解如何高效搭建AI知识库。
基于 Langchain-Chatchat，我搭建了一个本地知识库问答系统
2201_75499313的博客
02-01 2691
前沿技术资讯、算法交流、求职内推、算法竞赛、面试交流(校招、社招、实习)等、与 10000+来自港科大、北大、清华、中科院、CMU、腾讯、百度等名校名企开发者互动交流~本项目实现原理如下图所示，过程包括 加载文件 -> 读取文本 -> 文本分割 -> 文本向量化 -> 问句向量化 -> 在文本向量中匹配出与问句向量最相似的。如需在本地或离线环境下运行本项目，需要首先将项目所需的模型下载至本地，通常开源 LLM 与 Embedding 模型可以从 HuggingFace 下载。， 不然该项目跑不动。
太简单了！只需三步，本地打造自己的AI个人专属知识库（附教程）
DEVELOPERAA的博客
01-12 2492
本文会手把手教你如何部署本地大模型以及搭建个人知识库
【AI】Langchain-Chatchat搭建本地知识库-未完，先记录踩的坑
zhoulizhu的博客
12-23 3603
事先说一下，我本地的显卡4070只有12G显存，无法运行本地知识库，我把自己折腾的过程和遇到的坑先记录一下吧，后续如果有算力的话就再跑一遍试试。Langchain-Chatchat曾用名Langchain-ChatGLM，是智谱AI的本地知识库项目，其官方介绍如下：🤖️ 一种利用 langchain 思想实现的基于本地知识库的问答应用，目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。
部署 Langchain-Chatchat
02-27
在阿里云上申请DSW服务试用，并创建一个新的实例用于部署Langchain-Chatchat应用。确保该实例已正确安装所需的操作系统以及必要的开发工具链。 #### 安装依赖项 通过命令行工具来获取和设置所有必需的软件包。对于...
LangChain+ChatGLM基本原理及私有化部署
xinsuiqingfeng的博客
06-28 1066
基于 ChatGLM 等大语言模型与 Langchain 等应用框架实现，通过RAG提供了本地创建用户知识库的支持，使得在大语言模型基础上，可以接入用户数据，实现基于大语言模型的数据抽取和分析，并提供更加灵活友好的人性化交互方式。接口4-处理文本输入列表嵌入请求（get）：http://192.168.0.129:8000/v1/chat/embeddings。接口2-列出可用模型列表（get）：http://127.0.0.1:8000/v1/models/
如何搭建个人AI知识库？
xx_nm98的博客
06-29 1748
分享一下我的整体思路。我觉得方法都是次要的，因为每个人的需求、情况都不同——唯有思路可以借鉴。出发点和对应解法：第一，信息过载，无法逐一细细消化。所以需要AI辅助，通过总结、提炼等方式帮助我们先快速、大致掌握。第二，人脑不适合用来记东西，而应该用来做创造性的工作。所以需要“第二大脑 / Second Brain”来存储，需要AI根据语义进行检索（所有工具都有关键词检索，再加上语义检索就齐全了）。第三，记笔记是对信息做预处理。记笔记的目的，是增援未来的自己。
【Linux个人知识库LangChain-Chatchat部署问题记录-自用】
TJ_Helen的博客
10-05 2211
自己的记录
【玩转 GPU】搭建本地知识库--chatGLM+langchain（尝鲜篇）
Y525698136的博客
05-17 2133
有一天发现，在腾讯文档中想搜索之前写的东西需要收费了。这钱非花不可吗？好像不用。我们可以利用langchain+chatGLM在本地搭建自己的知识库，除了能搜索到文档这个功能，还能基于知识库内容和你进行对话问答～
本地知识库搭建完全指南
青蛙博客
03-03 2070
本文详细介绍了如何搭建本地知识库系统，主要包含两个核心步骤：安装配置Ollama和部署AnythingLLM。文章分别针对Windows、macOS和Linux三大操作系统，详细说明了Ollama的安装流程、环境变量配置以及模型下载过程。在AnythingLLM部分，介绍了系统要求、安装步骤和初始化配置，并提供了Docker部署方案。最后通过系统配置、工作区创建、模型设置、文档上传和知识库查询等步骤，完整展示了知识库的使用流程。
本地如何通过Ollama部署llama3、phi3等本地大模型？
lvaolan8888的博客
06-06 1929
来运行阿里的通译千问大模型，生成内容质量还可以而且速度也很快，（题外：生成的文章如果收录不是很好，最好不要用markdown格式和html格式，直接用文本格式）包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。
基于本地知识库的 ChatGLM实现-langchain-ChatGLM部署 支持TXT,DOC,PDF图库
txm6355754的专栏
11-03 502
二，pip3 install protobuf==3.19.3。四，TDM-GCC Compiler。一，detectron2安装。
5 分钟用满血 DeepSeek R1 搭建个人 AI 知识库（含本地部署）
热门推荐
Jay的个人博客
02-04 6万+
备注：评论区回复“DeepSeek”，免费领取万字DeepSeek指南。看到这里，相信你已经找到最适合自己的 DeepSeek 个人知识库方案了。如果你和大多数人一样，选择使用官方 API ，那就不用再为性能和本地硬件资源发愁；如果你恰好有充足的算力和技术储备，本地部署也是个不错的选择。不过，在整个过程中，我想和你分享的不仅仅是这些技术细节。而是一个中国团队能做出世界级大模型，一个需要 +86 才能注册的大模型。很庆幸，我们能作为中国 AI 技术进步的见证人。当然，暂时的领先不是终点。
基于大模型的本地知识库搭建
weixin_72959097的博客
12-09 749
本篇文章将介绍基于大模型来搭建本地知识库的流程。开源工具：MaxKB + Ollama。
评论 25
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值