探索百度AI云千帆平台：使用Langchain集成大模型

最新推荐文章于 2025-03-26 11:40:31 发布

nseejrukjhad

最新推荐文章于 2025-03-26 11:40:31 发布

阅读量787

点赞数 4

CC 4.0 BY-SA版权

文章标签： python

本文链接：https://blog.csdn.net/nseejrukjhad/article/details/144125958

探索百度AI云千帆平台：使用Langchain集成大模型

引言

百度AI云千帆平台是一个面向企业开发者的一站式大模型开发与服务运营平台。千帆不仅提供了文心一言（ERNIE-Bot）等模型，还包括多种第三方开源模型，提供了丰富的AI开发工具和完整的开发环境。本文将介绍如何使用Langchain库与千帆平台进行集成，重点介绍Completion模型的使用。

主要内容

千帆平台简介

千帆平台提供了多种大模型服务，包括但不限于嵌入（Embedding）、对话（Chat）和文本补全（Completion）。通过这些模型，开发者可以轻松创建和部署智能应用。

Langchain集成

为了使用百度千帆平台的LLM服务，首先需要初始化必要的参数。您可以将AK和SK设置为环境变量：

export QIANFAN_AK=XXX
export QIANFAN_SK=XXX

或在代码中设置：

import os

os.environ["QIANFAN_AK"] = "your_ak"
os.environ["QIANFAN_SK"] = "your_sk"

支持的模型

当前支持的模型包括：ERNIE-Bot-turbo、ERNIE-Bot、BLOOMZ-7B、Llama-2-7b-chat等。开发者可以选择适合自己需求的模型进行集成。

代码示例

以下是如何在Langchain中使用千帆平台的一个简单示例：

# 安装Langchain社区包
!pip install -qU langchain-community

import os
from langchain_community.llms import QianfanLLMEndpoint

os.environ["QIANFAN_AK"] = "your_ak"  # 替换为您的AK
os.environ["QIANFAN_SK"] = "your_sk"  # 替换为您的SK

# 初始化LLM端点
llm = QianfanLLMEndpoint(streaming=True)
res = llm.invoke("hi")
print(res)