【Lightrag知识库 离线部署指南】

Lightrag知识库 离线部署指南

本指南旨在帮助用户在离线环境中成功部署Lightrag知识库系统。由于网络限制,所有必要的安装包和依赖项需要提前下载并拷贝到目标服务器上。

准备工作

  1. 安装Python包:首先,在联网的机器上使用pip命令下载以下所需的Python包,并将这些包拷贝到离线环境。

    pip install lightrag-hku
    pip install graspologic
    # 可能缺少的依赖
    pip install aiofiles
    pip install PyJWT
    pip install nano-vectordb
    
  2. 克隆Lightrag框架代码:从GitHub上克隆最新的Lightrag框架源码到你的服务器上。

  3. 配置.env文件:根据你的需求创建并编辑.env文件。下面是一个参考示例:

### This is sample file of .env

### Server Configuration
HOST=0.0.0.0
PORT=9621
WEBUI_TITLE='My Graph KB'
WEBUI_DESCRIPTION="Simple and Fast Graph Based RAG System"
OLLAMA_EMULATING_MODEL_TAG=latest

### Login Configuration (可选)
# AUTH_ACCOUNTS='admin:admin123,user1:pass456'
# TOKEN_SECRET=Your-Key-For-LightRAG-API-Server
# TOKEN_EXPIRE_HOURS=48
# GUEST_TOKEN_EXPIRE_HOURS=24
# JWT_ALGORITHM=HS256

...

### ticktoken cache
TIKTOKEN_CACHE_DIR=/home/test/ai/tiktoken_cache # 这个是否需要配置的说明在下面

...

配置与启动服务

  1. 处理分词器问题:如果遇到关于o200k_base.tiktoken不存在的错误,请按照以下步骤操作:

    • 下载 o200k_base.tiktoken 文件:
      wget https://openaipublic.blob.core.windows.net/encodings/o200k_base.tiktoken
      
    • 使用SHA-1算法生成下载链接的哈希值,并将下载的文件重命名为该哈希值。
      import hashlib
      blobpath = "https://openaipublic.blob.core.windows.net/encodings/o200k_base.tiktoken"
      print(hashlib.sha1(blobpath.encode()).hexdigest())
      
    • 将这个文件放入你在.env中设置的TIKTOKEN_CACHE_DIR目录下。
  2. 启动服务:进入Lightrag目录,并运行以下命令以启动服务:

    python lightrag-server
    

请确保所有的路径配置正确,特别是当涉及到绝对路径时(例如TIKTOKEN_CACHE_DIR)。此外,调整.env文件中的参数以适应您的具体需求。完成以上步骤后,您应该能够在离线环境下成功运行Lightrag服务。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值