当前位置： 首页 > news >正文

Langchain-chatchat源码部署及测试实验

news 2025/9/17 13:23:53

       一年多前接触到Langchain-chatchat的0.2版本，对0.2版本进行了本地部署和大量更新，但0.2版本对最新的大模型支持不够好，部署框架支持也不好且不太稳定，特别是多模态大模型，因此本次主要介绍0.3版本的源码部署，希望对大家有所帮助。Langchain-chatchat从0.3版本开始，支持更多的部署框架，如xinference、Ollama和FastChat，较多的是xinference框架，因此本文也是基于该框架进行模型部署。开始时参考了提供的开发指南进行部署，感觉步骤较多且麻烦，因此我就采用直接修改源码方式进行部署，作者提供的前端没有用，主要使用的是libs下面的后端接口和默认基于Streamlit提供的前端测试功能。另外，我更新完善了本地知识库加载的多种文件格式解析模块，增加了验证和路由过滤模块、返回数据格式等等，这里不详细介绍。

一、源码下载

直接去github上找Langchain-chatchat，进行下载，最后下载master线。

二、服务器环境准备

我的环境是Linux Redhat7.5，配置两种gpu显卡，合计96G
安装conda和python3.10环境
上述两步可参考相关文档，相对简单，这里不细说。

三、虚拟环境准备

conda create -n xinferenc

相关文章：

Langchain-chatchat源码部署及测试实验

一年多前接触到Langchain-chatchat的0.2版本，对0.2版本进行了本地部署和大量更新，但0.2版本对最新的大模型支持不够好，部署框架支持也不好且不太稳定，特别是多模态大模型，因此本次主要介绍0.3版本的源码部署，希望对大家有所帮助。Langchain-chatchat从0.3版本开始，支持更…...

编程日记 2024/9/21 12:32:39

【Linux】线程（第十六篇）

目录 线程 1.线程基本概述： 2.线程类型： 3.线程间的共享资源与非共享资源 4.线程原语 1.线程创建函数 2.获取当前线程id的函数 3.回收线程资源 4.将线程设置为分离态 5.结束线程 6.退出线程 线程 1.线程基本概述： 是操作系统能够…...

编程日记 2024/9/21 12:31:38

2024华为杯研赛E题保姆级教程思路分析

E题题目：高速公路应急车道紧急启用模型 今年的E题设计到图像/视频处理，实际上，E题的难度相对来说较低，大家不用畏惧视频的处理，被这个吓到。实际上，这个不难，解决了视频的处理问题，…...

编程日记 2024/9/21 12:28:30

国内可以使用的ChatGPT服务【9月持续更新】

首先基础知识还是要介绍得~ 一、模型知识： GPT-4o：最新的版本模型，支持视觉等多模态，OpenAI 文档中已经更新了 GPT-4o 的介绍：128k 上下文，训练截止 2023 年 10 月（作为对比，GPT-4…...

编程日记 2024/9/21 12:27:28

Linux环境Docker安装Mongodb

Linux环境Docker安装Mongodb 环境要求拉取指定版本镜像创建映射目录（相当于数据存放于容器外，容器被删除不会影响数据）启动容器 进入mongo命令行为指定db创建新用户查看mongodb的容器id进入命令行查看所有db切换db为指定db创建新用户使用新账…...

编程日记 2024/9/21 12:25:27

PyTorch 池化层详解

在深度学习中，池化层（Pooling Layer）是卷积神经网络（CNN）中的关键组成部分。池化层的主要功能是对特征图进行降维和减少计算量，同时增强模型的鲁棒性。本文将详细介绍池化层的作用、种类、实现方法&#xf…...

编程日记 2024/9/21 12:24:26

Intel架构的基本知识

1.字节序 CPU的字节序分为LittleEndian和BigEndian。 所谓Endian，就是多字节数据在内存中的排列方式。 例如，假设有一个整数0x11223344： LittleEndian的排列方式是，从内存的低地址开始，依次存放 0x44 0x33 0x22 0x11； BigEndian的排列方式是，从内存的低地址开始，依…...

编程日记 2024/9/21 12:22:24

Element Plus 中Input输入框

通过鼠标或键盘输入字符 input为受控组件，他总会显示Vue绑定值，正常情况下，input的输入事件会正常被响应，他的处理程序应该更新组件的绑定值（或使用v-model）。否则，输入框的值将不会改变 不支…...

编程日记 2024/9/21 12:21:23

大模型中常见 loss 函数

loss 函数 首先，Loss 是允许不降到 0 的，模型计算的 loss 最终结果可以接近 0。 可以成为 loss 函数的条件## 常用 loss 以下函数调用基于 Pytorch，头文件导入： import torch.nn as nn 均方差（MSE） nn.…...

编程日记 2024/9/21 12:18:19

（十六）Ubuntu 20.04 下搭建PX4+MATLAB 仿真环境（HITL）

在文章（十五）Ubuntu 20.04 下搭建PX4MATLAB 仿真环境我们学习了如何配置仿真环境，在本节，主要进行HITL的仿真环境搭建。 根据（十五）Ubuntu 20.04 下搭建PX4MATLAB 仿真环境完成配置到如下界面：…...

编程日记 2024/9/21 12:16:16

Matlab simulink建模与仿真 第十七章（补充离散库和补充数学库）

参考视频：simulink1.1simulink简介_哔哩哔哩_bilibili 一、补充离散库和补充数学库中的模块概览 1、补充离散库 注：每个版本的补充离散库不一定相同，也不是每个版本的库都有如上所有模块。 2、补充数学库 二、离散直接传递函数Ⅱ模块 1、…...

编程日记 2024/9/21 12:15:16

Android Glide：让图片加载从未如此简单

在 Android 开发中，图片加载一直是一个关键环节。无论是从网络还是本地加载图片，都需要考虑到性能、内存管理和用户体验等多个方面。而在这方面，Glide 成为了众多开发者的首选库之一。本文将带你深入了解 Glide 的强大之处，并介绍如何在项目中快速集成和使用 Glide。 为什…...

编程日记 2024/9/21 12:14:14

YOLOv9改进策略【注意力机制篇】| 2024 SCSA-CBAM 空间和通道的协同注意模块

一、本文介绍 本文记录的是基于SCSA-CBAM注意力模块的YOLOv9目标检测改进方法研究。现有注意力方法在空间-通道协同方面未充分挖掘其潜力，缺乏对多语义信息的充分利用来引导特征和缓解语义差异。SCSA-CBAM注意力模块构建一个空间-通道协同机制，使空间注意力引导通道注意力增…...

编程日记 2024/9/21 12:11:12

Obsidian 全部笔记共享配置文件，obsidian仓库-文件夹配置统一化

obsidian仓库-文件夹配置统一化 在每次新建obsidian仓库(vaults)时，仓库的主题和快捷键等都需要重新设置，这是因为每次创建新的仓库时 新仓库的配置文件都是默认配置但是如果通过复制粘贴旧配置文件来达到新仓库的配置和旧仓库一致的话，无法…...

编程日记 2024/9/21 12:09:10

c++可视化打印树

#include <iostream> #include <string>// 定义节点结构体 struct Node {std::string data;Node* left;Node* right;Node(const std::string& data) : data(data), left(nullptr), right(nullptr) {} };// 递归打印树 void printTree(Node* root, std::string …...

编程日记 2024/9/21 12:08:09

ElementUI 快速入门：使用 Vue 脚手架搭建项目

文章目录 一 . ElementUI 的基本安装1.1 通过 Vue 脚手架创建项目1.2 在 vue 脚手架中安装 ElementUI1.3 编写页面 ElementUI 是 Vue.js 的强大 UI 框架&#xff0c;让前端界面开发变得简单高效。本教程将带你从安装到实战&#xff0c;快速掌握 ElementUI 的核心技巧。 核心内容…...

编程日记 2024/9/21 12:04:04

算法打卡：第十一章 图论part02

今日收获&#xff1a;岛屿数量&#xff08;深搜&#xff09;&#xff0c;岛屿数量&#xff08;广搜&#xff09;&#xff0c;岛屿的最大面积 1. 岛屿数量&#xff08;深搜&#xff09; 题目链接&#xff1a;99. 岛屿数量 思路&#xff1a;二维遍历数组&#xff0c;先判断当前…...

编程日记 2024/9/21 12:03:03

广度优先搜索算法及其matlab程序详解

#################本文为学习《图论算法及其MATLAB实现》的学习笔记################# 算法用途 广度优先搜索算法的应用 算法思想 广度优先搜索算法的步骤: ①,标号,令。 ②当所有标号为 的、与顶点 相关联的边的端点都已标号时,则停止;否则,把与 相关联的边的未标号的…...

编程日记 2024/9/21 12:02:01

力扣 438找到字符串中所有字母异位词

https://leetcode.cn/problems/find-all-anagrams-in-a-string/ 题目描述 题目分析 异位词所表示的空间 P \text{P} P 即一字符串的所有排列,记 s i \bold{s_i} si​为以 s [ i ] s[i] s[i]开头的长度为 plen \text{plen} plen的 s s s子串 故本题可理解为求解 A n s Ans Ans…...

编程日记 2024/9/21 12:01:00

图像滤波---各项异性扩散滤波使用笔记及代码

图像滤波---各项异性扩散滤波使用笔记及代码 一、文章内容介绍二、各项异性扩散滤波和各项同性滤波1、各项同性滤波2、各项异性扩散滤波3、各项异性和各项同性的对比 三、各项异性扩散滤波的原理介绍四、各项异性扩散滤波公式五、公式中的参数使用说明1、扩散速率 λ \lambda λ…...

编程日记 2024/9/21 11:58:58

Cesium1.95中高性能加载1500个点

一、基本方式&#xff1a; 图标使用.png比.svg性能要好 <template><div id"cesiumContainer"></div><div class"toolbar"><button id"resetButton">重新生成点</button><span id"countDisplay&qu…...

编程新知 2025/7/18 11:40:55

定时器任务——若依源码分析

分析util包下面的工具类schedule utils&#xff1a; ScheduleUtils 是若依中用于与 Quartz 框架交互的工具类&#xff0c;封装了定时任务的 创建、更新、暂停、删除等核心逻辑。 createScheduleJob createScheduleJob 用于将任务注册到 Quartz&#xff0c;先构建任务的 JobD…...

编程新知 2025/9/14 12:35:14

【android bluetooth 框架分析 04】【bt-framework 层详解 1】【BluetoothProperties介绍】

1. BluetoothProperties介绍 libsysprop/srcs/android/sysprop/BluetoothProperties.sysprop BluetoothProperties.sysprop 是 Android AOSP 中的一种 系统属性定义文件&#xff08;System Property Definition File&#xff09;&#xff0c;用于声明和管理 Bluetooth 模块相…...

编程新知 2025/7/9 6:14:15

【OSG学习笔记】Day 16: 骨骼动画与蒙皮（osgAnimation）

骨骼动画基础 骨骼动画是 3D 计算机图形中常用的技术&#xff0c;它通过以下两个主要组件实现角色动画。 骨骼系统 (Skeleton)&#xff1a;由层级结构的骨头组成&#xff0c;类似于人体骨骼蒙皮 (Mesh Skinning)&#xff1a;将模型网格顶点绑定到骨骼上&#xff0c;使骨骼移动…...

编程新知 2025/8/5 9:30:07

AI病理诊断七剑下天山，医疗未来触手可及

一、病理诊断困局&#xff1a;刀尖上的医学艺术 1.1 金标准背后的隐痛 病理诊断被誉为"诊断的诊断"&#xff0c;医生需通过显微镜观察组织切片&#xff0c;在细胞迷宫中捕捉癌变信号。某省病理质控报告显示&#xff0c;基层医院误诊率达12%-15%&#xff0c;专家会诊…...

编程新知 2025/9/7 2:22:03

JS设计模式(4)：观察者模式

JS设计模式(4):观察者模式 一、引入 在开发中&#xff0c;我们经常会遇到这样的场景&#xff1a;一个对象的状态变化需要自动通知其他对象&#xff0c;比如&#xff1a; 电商平台中&#xff0c;商品库存变化时需要通知所有订阅该商品的用户&#xff1b;新闻网站中&#xff0…...

编程新知 2025/9/1 6:48:07

【电力电子】基于STM32F103C8T6单片机双极性SPWM逆变（硬件篇）

本项目是基于 STM32F103C8T6 微控制器的 SPWM（正弦脉宽调制）电源模块，能够生成可调频率和幅值的正弦波交流电源输出。该项目适用于逆变器、UPS电源、变频器等应用场景。 供电电源 输入电压采集 上图为本设计的电源电路，图中 D1 为二极管， 其目的是防止正负极电源反接， …...

编程新知 2025/9/4 9:53:24

MinIO Docker 部署：仅开放一个端口

MinIO Docker 部署：仅开放一个端口 在实际的服务器部署中，出于安全和管理的考虑，我们可能只能开放一个端口。MinIO 是一个高性能的对象存储服务，支持 Docker 部署，但默认情况下它需要两个端口：一个是 API 端口（用于存储和访问数据），另一个是控制台端口（用于管理界面…...

编程新知 2025/9/14 23:56:48

《Docker》架构

文章目录 架构模式单机架构应用数据分离架构应用服务器集群架构读写分离/主从分离架构冷热分离架构垂直分库架构微服务架构容器编排架构什么是容器&#xff0c;docker&#xff0c;镜像&#xff0c;k8s 架构模式 单机架构 单机架构其实就是应用服务器和单机服务器都部署在同一…...

编程新知 2025/9/2 16:50:34

如何配置一个sql server使得其它用户可以通过excel odbc获取数据

要让其他用户通过 Excel 使用 ODBC 连接到 SQL Server 获取数据&#xff0c;你需要完成以下配置步骤&#xff1a; ✅ 一、在 SQL Server 端配置&#xff08;服务器设置&#xff09; 1. 启用 TCP/IP 协议 打开 “SQL Server 配置管理器”。导航到&#xff1a;SQL Server 网络配…...

编程新知 2025/8/25 19:37:12