专属领域大语言模型应用之LangChain核心模块models(一)

已于 2023-11-05 19:30:41 修改
阅读量444 收藏
点赞数 1
CC 4.0 BY-SA版权
分类专栏： AI测试探索 文章标签： python AIGC langchain gpt
于 2023-11-03 14:17:46 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/chen250727498/article/details/134202220

一、LangChain 项目介绍

对大语言模型的调用实际上是一次或多次上下文无关的独立事件，如果想要实现聊天、问答、API调用甚至一些更复杂的业务场景，直接去调用API是无法实现的。需要在这个过程里面整合不同类型的业务代码逻辑。

LangChain就是对这些通用逻辑做了封装，让使用者可以不用关注在与大模型之间的交互细节，能够更专注在业务本身上，通过组合模块和能力抽象来扩展 LLM 的能力，通过 chain、agent、model 等多种封装工具，提供了扩展 LLM 使用场景、便捷 LLM 调用方式的一系列功能。LangChain支持Python、js、ts语言。

1. LangChain的设计思路

CHAIN 就像缝合剂，它把多种能力进行缝合，其中有一部分能力是LangChain内置的，比如说上下文管理(Memory)，工具类(Agents)等，我们也可以基于LangChain进行定制与开发，这就是LangChain的设计思路。

2. LangChain 主要具备的核心模块

  • Prompts，模板化、动态选择和管理模型输入
  • Models，通过通用接口调用语言模型
  • Parser，标准化输出模型返回信息
  • Memory，上下文信息存储功能
  • Chains，将零散的功能逻辑串联成完整的业务流程
  • Agents，工具类的合集，解决大模型处理不了的问题

3. LangChain 的应用场景

  • 问答机器人
  • 摘要汇总
  • 聊天机器人
  • 数据查询
  • 与接口交互
  • 理解代码

4. LangChain 的价值

最近几个月， LangChain 已经成为了 AIGC 领域最火的框架。

看到这里，可能很多人心存疑问，为什么开发者要用 LangChain 而不是直接使用 OpenAI 所提供的方法呢？原因是目前的 GPT 模型存在以下的缺点，在产品中集成与使用依然需要大量的成本：

  • max token 限制
  • 无法，私有化模型
  • 没法，查询数据库
  • 数据截止2021年Q3
  • 不能调用第三方 API
  • 无法联网
  • 无法对接外部工具
  • 数据隐私
  • 输出结果不稳定

LangChain 与之对比，就形成了自己的优势。他封装的抽象或抽象出来的能力，确实可以解决大语言模型使用过程中的一些痛点。比如大语言模型返回信息的不确定性，如果每次调用接口的结果是不确定的，你需要在这个过程中，进行大量的异常处理信息。

LangChain 作为大语言模型和应用产品之间的一个桥梁和媒介。LangChain 则很好的解决了GPT模型存在的问题。

5. 环境配置与安装

环境配置：

  • 科学上网环境
  • Python环境
  • API Token

LangChain安装:

  • 通过 pip 安装 langchain：
pip install langchain
  • 通过 pip 安装 openai：
pip install openai

6. LangChain 相关学习资料

LangChain Python 官方教程：https://python.langchain.com/

LangChain GitHub 源码地址：https://github.com/langchain-ai/langchain

deeplearning教程：https://learn.deeplearning.ai/langchain

二、LangChain 核心模块 models

【AI大模型企业级应用开发实战】企业级应用集成AI大模型的架构，包括大模型概述、集成实践、技术架构设计及应用场景《AI大模型应用架构（ALLMA）白皮书》
AI天才研究院
06-30 1万+
随着大模型浪潮的兴起，生产力将发生质的变化，从而引发生产力和生产关系的重塑。随着模型能力的提升和使用成本的降低，基于大模型构建应用将成为主流趋势。然而，应用层能否与大模型高效交互，将成为产品方案探索效率和效果的关键因素。因此，在模型之上的工程架构中，必须构建一套完整的大模型交互管道（Interface），将应用层（Application） 和模型层（Model）进行串联，为诸如Prompt Engineering、Fine-Tuning和模型评估等关键环节提供全面支持，以实现产品方案探索的降本增效 ....
10.8 LangChain三大模块深度实战：从模型交互到企业级Agent工具链全解析
yonggeit的博客
05-19 226
LangChain Community 项目通过 Model I/O、Retrieval 和 Agent Tooling 三大模块，构建了一个高效、标准化的 AI 应用开发框架。Model I/O 模块提供了与大模型交互的标准化接口，支持多模态输入、模型抽象和流式输出处理。Retrieval 模块实现了智能检索增强架构，采用多路召回策略，支持十亿级数据的秒级响应。Agent Tooling 模块则提供了生产级工具链设计，支持快速创建企业专属 Agent。通过这三大模块的协同，开发者可以构建符合企业 SLA
大模型（LLMs）langchain 相关知识
u012374012的专栏
11-04 926
• 介绍：LangChain Agent 是框架中驱动决策制定的实体。它可以访问一组工具，并可以根据用户的输入决定 调用哪个工具；• 优点：LangChain Agent 帮助构建复杂的应用程序，这些应用程序需要自适应和特定于上下文的响应。当存 在取决于用户输入和其他因素的未知交互链时，它们特别有用。LangChain model 是一种抽象，表示框架中使用的不同类型的模型。LangChain 中的模型主要分为三类：1. LLM（大型语言模型）：这些模型将文本字符串作为输入并返回文本字符串作为输出。
大模型从入门到应用——LangChain：模型（Models）-[聊天模型（Chat Models）：基础知识]
热门推荐
冯·诺依曼
07-25 1万+
聊天模型是语言模型的一种变体。虽然聊天模型在内部使用语言模型，但它们公开的接口略有不同。它们不是提供一个“输入文本，输出文本”的API，而是提供一个以“聊天消息”作为输入和输出的接口。聊天模型的API还比较新，因此我们仍在确定正确的抽象层次。通过向聊天模型传递一个或多个消息，可以获取聊天完成的结果。响应将是一个消息。LangChain目前支持的消息类型有AIMessage和，其中ChatMessage接受一个任意的角色参数。大多数情况下，我们只需要处理AIMessage和。
langchain从入门到精通（四）——Model组件及使用技巧
最新发布
swpucwf的博客
06-13 439
【代码】langchain从入门到精通（四）——Model组件及使用技巧。
大模型从入门到应用——LangChain：模型（Models）-[文本嵌入模型：Aleph Alpha、Amazon Bedrock、Azure OpenAI、Cohere等]
冯·诺依曼
07-25 1万+
本文将介绍如何在LangChain中使用Embedding类。Embedding类是一种与嵌入交互的类。有很多嵌入提供商，如：OpenAI、Cohere、Hugging Face等，这个类旨在为所有这些提供一个标准接口。嵌入创建文本的向量表示会很有用，因为这意味着我们可以在向量空间中表示文本，并执行类似语义搜索这样的操作。
langchain系列：Model I/O模块之-Prompts
traveler-leon的博客
07-11 1658
Model I/O模块其实就是提供了语言模型的基础构建接口，那既然是提供构建的接口，我们首先要知道，构建一个模型到底需要哪一些部分。官方给出了一个图例如下：从上面可以看出，在整个工作的流程中，数据通过一定的格式（Format）组织起来，送入到模型中进行预测（Predict），最后将预测结果进行解析（Parse）输出。输入部分语言模型构建部分输出部分。
大模型一文简说：彻底搞懂什么是LangChain
程序员鑫港的博客
02-27 1215
LangChain是一个强大的框架，旨在帮助开发人员使用语言模型构建端到端的应用程序。它提供了一套工具、组件和接口，可简化创建由大型语言模型 (LLM) 和聊天模型提供支持的应用程序的过程。LangChain 可以轻松管理与语言模型的交互，将多个组件链接在一起，并集成额外的资源，例如 API 和数据库。
使用LangChain快速搭建自己的大模型产品
weixin_40566713的博客
05-24 865
【代码】使用langChain快速搭建自己的大模型产品。
​LLM之新手入门：大预言模型的概念介绍与应用
qq_17827079的博客
03-14 3803
最近，我在系统地学习大型语言模型（LLM）的相关知识。在这个学习过程中，我努力将所学的内容整理成博客文章。在这篇博客中，我首先简要介绍了人工智能的发展历史，然后探讨了大型模型的基本原理、训练方法、微调技巧、实际使用方式、模型压缩策略以及它们可能的应用场景。通过这篇文章，读者可以对大型语言模型的整体框架和功能有一个初步而全面的认识。
告别云端束缚：Ollama + Langchain 如何开启本地化 AI 应用新纪元
海棠AI实验室
05-06 994
然而，随之而来的数据隐私担忧、高昂的API调用成本以及恼人的网络延迟，也让开发者们开始寻求新的可能性。想象一下，你的AI应用不再需要将敏感数据发送到千里之外的服务器，所有计算都在本地完成，响应速度快如闪电，而且几乎零成本。它是一个轻量级、可扩展的本地LLM运行框架，让你能够在自己的笔记本电脑或服务器上轻松部署和运行如Llama 3、Mistral、Gemma等先进的开源模型。长期以来，强大的LLM似乎是科技巨头的专属。运行这段代码，你会发现，问题的回答几乎是瞬时的，并且所有处理都在你的本地机器上完成！
大模型开发--文搞懂 LangChain(二):Modell/O
qingkahui24689的博客
08-15 978
本文将从Modeli/0的本质、Modell/o的原理、Modell/o的应用三个方面，带您一文搞懂 LangChain(二):Modell/O
【LangChain系列2】【Model I/O详解】
艰难困苦，玉汝于成。
10-21 1288
LangChain给自身的定位是：用于开发由大语言模型支持的应用程序的框架。它的做法是：通过提供标准化且丰富的模块抽象，构建大语言模型的输入输入规范，利用其核心概念chains，灵活地连接整个应用开发流程。这里是LangChain系列的第二篇，主要介绍Model I/O模块（标准化LLM的输入输出）。
大模型从入门到应用——LangChain：模型（Models）-[基础知识]
冯·诺依曼
07-20 1万+
这两者之间有一个微妙的区别，但LangChain的主张提供了跨越这些的统一接口，因为虽然底层的 API 实际上是非常不同的，但我们会经常想要交替使用它们。》部分的文章介绍了LangChain中使用的不同类型的模型。在本文中，我们将阐述模型（Models）类型及模型的基础知识。[2] LangChain中文网 - LangChain 是一个用于开发由语言模型驱动的应用程序的框架：http://www.cnlangchain.com/LangChain的核心价值提案之一是提供了一个标准接口来管理模型。
LangChain简明指南，LangChain是什么？可以用来做什么？
weixin_42233867的博客
11-16 8640
LangChain是一个开源的Python库，它提供了构建基于大模型的AI应用所需的模块和工具。它可以帮助开发者轻松地与大型语言模型(LLM)集成，实现文本生成、问答、翻译、对话等任务。LangChain的出现大大降低了AI应用开发的门槛，使得任何人都可以基于LLM构建自己的创意应用。
一文搞懂 Langchain Models （一）
DynmicResource的博客
10-31 291
theme: orange 在这篇文章中，我们来探索下LangChain中的“模型”。从本质上讲，模型使得处理不同的语言或嵌入服务变得容易，因为它们提供了一个统一的接口。这意味着无论您是使用OpenAI还是Hugging Face，您都可以通过相同的方式与“模型”进行交互，从而使开发和迭代变得更加简单。 Model I/O 任何语言模型应用程序的核心要素都是模型。LangChai...
一文搞懂 Langchain Models （二）
DynmicResource的博客
10-31 174
theme: orange 接上文???????????? 一文搞懂 Langchain Models (一)。 大语言模型(LLMs)介绍 实际上，大型语言模型(Large Language Models)操作起来相当简单。 你可以提供一个用自然语言的输入给大语言模型： text 北京有哪些著名景点？ 然后模型将返回一个文本： text 北京的著名经典有故宫、雍王府、颐和园等 La...
LangChain: 大语言模型的新篇章
淘系技术
07-07 6302
本文介绍了LangChain框架，它能够将大型语言模型与其他计算或知识来源相结合，从而实现功能更加强大的应用。接着，对LangChain的关键概念进行了详细说明，并基于该框架进行了一些案例尝试，旨在帮助读者更轻松地理解LangChain的工作原理。引言近期,大型语言模型(LLM)如GPT系列模型引领了人工智能领域的一场技术革命。开发者们都在利用这些LLM进行各种尝试,虽然已经产生了许多有趣的应用,...
【图解】langchain-chatchat启动流程以及qwen-api模型调用原理
一起来研究langchain和langchain-chatchat
05-08 4502
之前我们写了一篇文章在低性能机器上启动langchain-chatchat，我们通过debug看看在这种模式下是如何调用qwen-pai模型的，顺便一起来了解下langchain-chatchat的启动流程。
数据库大模型问答
03-21
### 数据库结合大模型实现问答系统的概述 现代数据库技术与大模型相结合，能够显著提升非结构化数据的应用价值。这种结合主要体现在以下几个方面： #### 非结构化数据的处理 随着大数据时代的到来，传统的关系型数据库已无法满足对文本、图像、音频和视频等非结构化数据的有效管理需求。大模型技术的发展为此提供了新思路。通过引入大模型的能力，可以更高效地处理这些复杂的数据形式[^1]。 #### 向量数据库的作用 向量数据库作为支持大模型的重要基础设施之一，在存储和检索嵌入式表示（embeddings）方面发挥着核心作用。具体来说，工具如 Towhee 可以帮助将非结构化数据转化为高维向量，并将其存入专门设计用于快速相似度查询的向量数据库中[^4]。这一步骤对于构建高效的语义搜索引擎至关重要。 #### LLM 的集成方式 为了使企业的业务系统充分利用最新的 AI 进展成果，需要制定合理的架构规划来融合大型语言模型 (LLMs) 。例如，“引言”部分提到过的一个典型应用场景涉及到了如何定义并实施这样的集成交互流程[^2]。这意味着不仅要考虑前端用户体验界面的设计，还需要深入探讨后端服务层面上的具体操作细节和技术选型依据等问题。 #### 自定义专用模型的可能性 除了直接利用开源社区提供的通用版本之外，还可以进一步探索针对特定领域知识图谱定制专属解决方案的方法路径。比如在农业植保场景下开发了一个名为 ChatLLM 的模块实例；它允许使用者灵活替换底层所依赖的语言预测引擎——即既可以沿用官方推荐的标准配置选项(Yi-34B-chat)，也可以根据实际需求自行调整参数设置或者导入经过本地标注样本重新训练后的优化版替代品[^3]。 综上所述，当我们将上述各个组成部分有机结合在一起时，则可形成一套完整的基于数据库联合运用先进算法框架完成智能化自动应答任务的整体策略模式。 ```python import towhee from langchain import PromptTemplate, LLMChain # Example of embedding non-structured data into vectors using Towhee. data = ["This is a sample sentence.", "Another example here."] vectors = towhee.glob['text'](data).dc.embed_text(model_name='all-MiniLM-L6-v2').to_list() # Define prompt template and create an instance of the chain with chosen model. template = """Question: {question} Answer:""" prompt = PromptTemplate(template=template, input_variables=["question"]) llm_chain = LLMChain(prompt=prompt) # Simulate user interaction by feeding questions to the chatbot system powered by custom-tuned models if necessary. response = llm_chain.run({"question": "What are some common pests affecting crops?"}) print(response) ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值