大模型WebUI:Gradio全解12——LangChain原理、架构和组件(3)
大模型WebUI:Gradio全解12——LangChain原理、架构和组件(3)
- 前言
- 本篇摘要
- 12. LangChain原理及agents构建Gradio UI
- 12.3 LangChain架构
- 12.3.1 LangChain
- 12.3.2 Integration Packages
- 1. 概念
- 2. 示例
- 12.3.3 LangGraph
- 1. 概念
- 2. 示例
- 12.3.4 LangGraph Platform
- 1. 概览
- 2. 优势分析
- 12.3.5 LangSmith
- 1. 用途
- 2. 示例
- 参考文献
前言
本系列文章主要介绍WEB界面工具Gradio。Gradio是Hugging Face发布的简易WebUI开发框架,它基于FastAPI和svelte,可以使用机器学习模型、python函数或API开发多功能界面,并可部署人工智能模型,是当前热门的非常易于展示机器学习大语言模型LLM及扩散模型DM的WebUI框架。
本系列文章分为五部分:Gradio介绍、HuggingFace资源与工具库、Gradio基础功能实战、Gradio与大模型融合实战和Gradio高级功能实战。第一部分Gradio介绍,包括三章内容:第一章先介绍Gradio的概念,包括详细技术架构、历史、应用场景、与其他框架Gradio/NiceGui/StreamLit/Dash/PyWebIO的区别,然后详细介绍了Gradio的安装与运行,安装包括Linux/Win/Mac三类系统安装,运行包括普通方式和热重载方式;第二章介绍Gradio的4种部署方式,包括本地部署launch()、huggingface托管、FastAPI挂载和Gradio-Lite浏览器集成;第三章介绍Gradio的三种Client,包括python客户端、javascript客户端和curl客户端,方便读者对Gradio整体把握。第二部分介绍著名网站Hugging Face的各类资源和工具库,因为Gradio演示中经常用到Hugging Face的models及某些场景需要部署在spaces,包括两章内容:第四章详解三类资源models/datasets/spaces的使用,第五章实战六类工具库transformers/diffusers/datasets/PEFT/accelerate/optimum实战。第三部分是Gradio基础功能实战,进入本系列文章的核心,包括四章内容:第六章讲解Gradio库的模块架构和环境变量,第七章讲解Gradio高级抽象界面类Interface,第八章讲解Gradio底层区块类Blocks,第九章讲解补充特性Additional Features。第四部分是Gradio与大模型融合实战,包括二章内容:第十章讲解融合大模型的多模态聊天机器人组件Chatbot,第十一章讲述将LLM封装为工具的Gradio Tools。第五部分是使用Agent构建Gradio,包括三章内容:第十二章讲解使用使用transformers.agents构建Gradio,第十三章讲述LangChain原理、架构和组件,第十四章讲述使用langchain.agents和LangGraph构建Gradio。第六部分讲述Gradio其它高级功能,包括三章内容:第十五章讲述Discord Bot/Slack Bot/Website Widget部署,第十六章讲述数据科学与绘图Data Science And Plots,第十七章讲述数据流Streaming。
本系列文章讲解细致,涵盖Gradio及相关框架的大部分组件和功能,代码均可运行并附有大量运行截图,方便读者理解并应用到开发中,Gradio一定会成为每个技术人员实现各种奇思妙想的最称手工具。
本系列文章目录如下:
- 《Gradio全解13——LangChain原理、架构和组件(1)》
- 《Gradio全解13——LangChain原理、架构和组件(2)》
- 《Gradio全解13——LangChain原理、架构和组件(3)》
- 《Gradio全解13——LangChain原理、架构和组件(4)》
本篇摘要
本章先介绍LangChain概念、学习资料、架构和组件,为后续使用Agent创建Gradio做铺垫。
12. LangChain原理及agents构建Gradio UI
LangChain使用简单,并拥有庞大的用户和贡献者社区,由LangChain实现的agents也具有一定代表性。但LangChain本身集成了大量供应商和组件,资料庞杂,理解起来颇有难度,内容也非常多,所以拆分为两张。本章先介绍LangChain概念、学习资料、架构和组件,为后续使用Agent创建Gradio做铺垫。
12.3 LangChain架构
LangChain简化了大语言模型应用程序生命周期的各个阶段:
- 开发:使用LangChain的开源组件和第三方集成Intergration构建应用程序,使用LangGraph构建具有一流流式处理和人工干预支持的有状态代理Agent;
- 产品化:使用LangSmith开发者调试、测试、评估和监控基于任何LLM框架构建的处理链或应用程序,并与LangChain实现无缝集成,以便用户可以持续优化并自信部署;
- 部署:通过LangGraph Platform可以将LangGraph应用程序转化为面向生产落地的API和助手Assistant。
然而由于LangChain整合了很多供应商和各类工具,导致本身体制异常臃肿,架构和功能划分都不清晰,甚至存在诸多重复。作者尽可能以较简洁的方式介绍LangChain架构,以便读者尽快建立对LangChain的整体认知,也可参考官方Architecture。首先看官方的架构图:
从构成图可看出,LangChain主要分为五部分LangChain、Integration Packages、LangGraph、LangGraph Platform及,LangSmith下面一一讲述。
12.3.1 LangChain
核心框架LangChain是基础包,包含大量组件,并为许多AI应用程序中的核心组件提供了通用接口。LangChain由多个开源库组成,如下图所示:
详细描述如下:
- langchain-core:这个包包含了聊天模型和其它不同组件的基础抽象以及将它们组合在一起的方式。这里定义了核心组件(如聊天模型、向量存储、工具等)的接口,但不包含任何第三方集成,其依赖项非常轻量。
- langchain:langchain包的主体包含构成应用程序认知架构的链、代理和检索策略,这些不是第三方集成,且所有链、智能体和检索策略并非特定于某一个集成,而是通用于所有集成。
- langchain-community:这个包包含由LangChain社区维护的第三方集成,但关键的集成Integration包已被分离出来(见下文)。langchain-community包含了各种组件(聊天模型、向量存储、工具等)的集成,为了保持包的轻量化,此包中的所有依赖项都是可选的。
- langchain-experimental:顾名思义,这个包包含实验性的LangChain代码,旨在用于研究和实验性用途。如果没有在沙盒环境中正确部署,此包中的部分代码可能会存在危险,所以除非已经采取了适当的预防措施,否则请谨慎将实验性代码部署到生产环境中。
- langchain-text-splitters:LangChain文本分割器,包含用于将各种文本文档分割成块的实用工具。支持的功能有Language(编程语言)、TokenTextSplitter、TextSplitter、Tokenizer等;支持的文本类型有character、html、json、python、latex、markdown等;支持的文本分割工具包有konlpy、nltk、sentence_transformers、spacy等。
关于基础包LangChain的示例参考后面示例即可。
12.3.2 Integration Packages
1. 概念
一般流行的供应商有它们自己独立的集成包:langchain-{provider} ,例如langchain-openai、langchain-anthropic等,以便能够正确地进行版本控制、依赖管理和测试,并保持适当的轻量化,由LangChain团队和集成包开发者共同维护。更多信息请参阅:
- 集成包列表,这里包含所有供应商集成包及其功能列表;
- API参考,这里可以找到每个集成包的详细信息。
如果想编写自己的集成,请参阅“Extending LangChain”;如果想开源贡献自己的集成,请参阅“Contributing integrations”。Integration Packages的构成如下图:
此外还有anthropic、groq(应该是grok,或许是langchain的拼写错误)、google-genai及huggingface等,每个集成包中通常包含chat_models、embeddings、llms及utils等子包,每个子包还可能包括局部参数和成员函数,以便根据需求设置和调用。以langchain_openai.ChatOpenAI为例,简单摘举如下(两者无对应关系):
局部参数 | 成员函数 |
---|---|
seed | __call__() |
server_kwargs | abatch() |
tags | abatch_as_completed() |
cache | ainvoke() |
task | astream() |
teperature | astream_events() |
timeout | batch() |
top_k | batch_as_completed() |
top_p | bind() |
truncate | configurable_alternatives() |
typical_p | configurable_fields() |
verbose | get_num_tokes() |
watermark | invoke() |
2. 示例
下面通过一个示例展现集成包的使用方法,从langchain_anthropic导入聊天模型ChatAnthropic,然后通过其成员函数configurable_alternatives选择性调用ChatOpenAI,代码如下:
from langchain_anthropic import ChatAnthropic
from langchain_core.runnables.utils import ConfigurableField
from langchain_openai import ChatOpenAImodel = ChatAnthropic(model_name="claude-3-sonnet-20240229"
).configurable_alternatives(ConfigurableField(id="llm"),default_key
相关文章:

大模型WebUI:Gradio全解12——LangChain原理、架构和组件(3)
大模型WebUI:Gradio全解12——LangChain原理、架构和组件(3) 前言本篇摘要12. LangChain原理及agents构建Gradio UI12.3 LangChain架构12.3.1 LangChain12.3.2 Integration Packages1. 概念2. 示例12.3.3 LangGraph1. 概念2. 示例12.3.4 LangGraph Platform1. 概览2. 优势分…...

redis --- 相关基础知识整理
目录 一、基本1、数据结构2、有序集合的编码1. 压缩列表(Ziplist)2. 跳跃列表(SkipList)3. 动态转换机制 二、应用场景三、持久化1、 RDB 持久化2、 AOF 持久化3、 混合持久化(RDB AOF)4、 RDB和AOF的对比…...
如何用 Python 进行机器学习
文章目录 前言1. 环境准备Python安装选择Python开发环境安装必要库 2. 数据收集与加载3. 数据探索与可视化4. 数据预处理5. 模型选择与训练6. 模型评估7. 模型调优8. 模型部署 前言 使用 Python 进行机器学习一般可以按照以下步骤进行,下面将详细介绍每个步骤及对应…...

《Effective Objective-C》阅读笔记(下)
目录 内存管理 理解引用计数 引用计数工作原理 自动释放池 保留环 以ARC简化引用计数 使用ARC时必须遵循的方法命名规则 变量的内存管理语义 ARC如何清理实例变量 在dealloc方法中只释放引用并解除监听 编写“异常安全代码”时留意内存管理问题 以弱引用避免保留环 …...
解释Promise的工作原理及其状态
Promise的工作原理及其状态 1. 什么是Promise? Promise是JavaScript中的一种用于处理异步操作的对象。它代表一个可能在未来某个时间点完成的操作,并且可以有三种状态:待定(pending)、已解决(fulfilled&a…...
SHELL32!ILCombine函数分析之连接两个idl
SHELL32!ILCombine函数分析之连接两个idl 第一部分: STDAPI_(LPITEMIDLIST) ILCombine(LPCITEMIDLIST pidl1, LPCITEMIDLIST pidl2) { // Let me pass in NULL pointers if (!pidl1) { if (!pidl2) { return NULL; …...
es 生产集群的部署架构是什么?每个索引的数据量大概有多少?每个索引大概有多少个分片?
Elasticsearch 生产集群部署架构及面试解析 在后端面试中,Elasticsearch(ES)是一个经常被问到的技术点,尤其是涉及到 生产环境的部署架构。面试官往往希望通过这个问题来验证你是否有真正的生产经验,而不仅仅是玩过一…...
Qt跨线程信号槽调用:为什么信号不能像普通函数那样调用
1. 信号与槽机制的基本原理 在 Qt 中,信号与槽机制是一种事件驱动的通信方式,用于对象之间的解耦交互。其关键特点如下: 信号不能直接调用 信号只是一个声明,并没有实际的函数实现。它们通过 emit 关键字在对象内部被触发&…...

ollama和open-webui部署ds
博客地址: ollama和open-webui部署ds 引言 最近,deepseek是越来越火,我也趁着这个机会做了下私有化部署,我这边使用的ollama和 open-webui实现的web版本 ollama 简介 Ollama 是一个开源的工具,专门用于简化机器学…...
泛微Ecode新增Button调用服务器中的JSP页面里的方法
前言 前端Ecode调用 后端接口编写 JSP文件方法 总结 前言 因为我们是从之前E8版本升级到E9的,所以会有一些接口是通过jsp文件来实现前后端调用的,这里介绍的就是如果你有接口是写在jsp文件里面调用的,但是你又想在Ecode中调用的对应的接…...
LVS+Keepalived高可用群集配置案例
以下是一个 LVSKeepalived 高可用群集配置案例: 1、环境准备 LVS 主调度器(lvs1):IP 地址为 192.168.8.101,心跳 IP 为 192.168.4.101LVS 备调度器(lvs2):IP 地址为 192.168.8.102…...

杰发科技AC7801——滴答定时器获取时间戳
1. 滴答定时器 杰发科技7801内部有一个滴答定时器,该定时器是M0核自带的,因此可以直接用该定时器来获取时间戳。 同样,7803也可以使用该方式获取时间戳。 2. 滴答定时器原理 SysTick是一个24位的递减计数器,它从预设的重装载值…...

Pycharm使用matplotlib出现的问题(1、不能弹出图表 2、图表标题中文不显示)
Pycharm使用matplotlib出现的问题 问题1:Pycharm调试时出现:AttributeError: module backend_interagg has no attribute FigureCanvas. Did you mean: FigureCanvasAgg? 排查原因:可能是由于matplotlib后端设置不正确或与运行环境不兼容引…...

Cursor+pycharm接入Codeuim(免费版),Tab自动补全功能平替
如题,笔者在Cursor中使用pycharm写python程序,试用期到了Tab自动补全功能就不能用了,安装Codeuim插件可以代替这个功能。步骤如下: 1. 在应用商店中搜索扩展Codeuim,下载安装 2. 安装完成后左下角会弹出提示框&#x…...
spring--ApplicationContext和BeanFactory的区别(源码)
ApplicationContext 和 BeanFactory 是 Spring 框架中两个核心的接口,它们都用于管理和访问 Spring 容器中的 Bean,但在功能和使用场景上有显著的区别。以下是它们的详细对比,并结合源码进行讲解。 一、 功能对比 特性BeanFactoryApplicati…...

HTMLS基本结构及标签
HTML5是目前制作网页的核心技术,有叫超文本标记语言。 基本结构 声明部分位于文档的最前面,用于向浏览器说明当前文档使用HTML标准规范。 根部标签位于声明部分后,用于告知浏览器这是一个HTML文档。< html>表示文档开始,&l…...

【蓝桥杯嵌入式】各模块学习总结
系列文章目录 留空 文章目录 系列文章目录前言一、LED模块1.1 赛题要求1.2 模块原理图1.3 编写代码1.4 赛题实战 二、LCD模块2.1 赛题要求2.2 模块原理图2.3 编写代码2.4 赛题实战 三、按键模块3.1 赛题要求3.2 模块原理图3.3 编写代码3.4 赛题实战 四、串口模块4.1 赛题要求4…...

Vue的项目创建以及项目目录与组合式API
一.创建Vue 1.Vue-CLI:创建Vue的脚手架工具 2.Create-vue:是Vue官方提供的脚手架之一,底层采用官方自主研发的vite,快捷,开发方便。 3.准备工作:系统中需要安装nodejs环境,在该环境中提供npm包管理器 4.创建Vue项目的命令:npm init vuela…...

数据结构秘籍(二)图(含图的概念、存储以及图的两大搜索)
1 引言 线性数据结构的元素满足唯一的线性关系,每个元素(初第一个和最后一个外)只有一个直接前趋和一个直接后继。树形数据结构的元素之间有着明显的层次关系。但是图形结构的元素之间的关系是任意的。 什么是图? 简单来说&…...
前端八股——JS+ES6
前端八股:JSES6 说明:个人总结,用于个人复习回顾,将持续改正创作,已在语雀公开,欢迎评论改正。...

shell脚本--常见案例
1、自动备份文件或目录 2、批量重命名文件 3、查找并删除指定名称的文件: 4、批量删除文件 5、查找并替换文件内容 6、批量创建文件 7、创建文件夹并移动文件 8、在文件夹中查找文件...
Python如何给视频添加音频和字幕
在Python中,给视频添加音频和字幕可以使用电影文件处理库MoviePy和字幕处理库Subtitles。下面将详细介绍如何使用这些库来实现视频的音频和字幕添加,包括必要的代码示例和详细解释。 环境准备 在开始之前,需要安装以下Python库:…...
OpenLayers 分屏对比(地图联动)
注:当前使用的是 ol 5.3.0 版本,天地图使用的key请到天地图官网申请,并替换为自己的key 地图分屏对比在WebGIS开发中是很常见的功能,和卷帘图层不一样的是,分屏对比是在各个地图中添加相同或者不同的图层进行对比查看。…...

Unsafe Fileupload篇补充-木马的详细教程与木马分享(中国蚁剑方式)
在之前的皮卡丘靶场第九期Unsafe Fileupload篇中我们学习了木马的原理并且学了一个简单的木马文件 本期内容是为了更好的为大家解释木马(服务器方面的)的原理,连接,以及各种木马及连接工具的分享 文件木马:https://w…...
【无标题】路径问题的革命性重构:基于二维拓扑收缩色动力学模型的零点隧穿理论
路径问题的革命性重构:基于二维拓扑收缩色动力学模型的零点隧穿理论 一、传统路径模型的根本缺陷 在经典正方形路径问题中(图1): mermaid graph LR A((A)) --- B((B)) B --- C((C)) C --- D((D)) D --- A A -.- C[无直接路径] B -…...

C/C++ 中附加包含目录、附加库目录与附加依赖项详解
在 C/C 编程的编译和链接过程中,附加包含目录、附加库目录和附加依赖项是三个至关重要的设置,它们相互配合,确保程序能够正确引用外部资源并顺利构建。虽然在学习过程中,这些概念容易让人混淆,但深入理解它们的作用和联…...
作为测试我们应该关注redis哪些方面
1、功能测试 数据结构操作:验证字符串、列表、哈希、集合和有序的基本操作是否正确 持久化:测试aof和aof持久化机制,确保数据在开启后正确恢复。 事务:检查事务的原子性和回滚机制。 发布订阅:确保消息正确传递。 2、性…...

TSN交换机正在重构工业网络,PROFINET和EtherCAT会被取代吗?
在工业自动化持续演进的今天,通信网络的角色正变得愈发关键。 2025年6月6日,为期三天的华南国际工业博览会在深圳国际会展中心(宝安)圆满落幕。作为国内工业通信领域的技术型企业,光路科技(Fiberroad&…...

Matlab实现任意伪彩色图像可视化显示
Matlab实现任意伪彩色图像可视化显示 1、灰度原始图像2、RGB彩色原始图像 在科研研究中,如何展示好看的实验结果图像非常重要!!! 1、灰度原始图像 灰度图像每个像素点只有一个数值,代表该点的亮度(或…...
书籍“之“字形打印矩阵(8)0609
题目 给定一个矩阵matrix,按照"之"字形的方式打印这个矩阵,例如: 1 2 3 4 5 6 7 8 9 10 11 12 ”之“字形打印的结果为:1,…...