当前位置： 首页 > news >正文

Langchain-chatchat源码部署及测试实验

news 2026/4/2 3:30:37

       一年多前接触到Langchain-chatchat的0.2版本，对0.2版本进行了本地部署和大量更新，但0.2版本对最新的大模型支持不够好，部署框架支持也不好且不太稳定，特别是多模态大模型，因此本次主要介绍0.3版本的源码部署，希望对大家有所帮助。Langchain-chatchat从0.3版本开始，支持更多的部署框架，如xinference、Ollama和FastChat，较多的是xinference框架，因此本文也是基于该框架进行模型部署。开始时参考了提供的开发指南进行部署，感觉步骤较多且麻烦，因此我就采用直接修改源码方式进行部署，作者提供的前端没有用，主要使用的是libs下面的后端接口和默认基于Streamlit提供的前端测试功能。另外，我更新完善了本地知识库加载的多种文件格式解析模块，增加了验证和路由过滤模块、返回数据格式等等，这里不详细介绍。

一、源码下载

直接去github上找Langchain-chatchat，进行下载，最后下载master线。

二、服务器环境准备

我的环境是Linux Redhat7.5，配置两种gpu显卡，合计96G
安装conda和python3.10环境
上述两步可参考相关文档，相对简单，这里不细说。

三、虚拟环境准备

conda create -n xinferenc

相关文章：

Langchain-chatchat源码部署及测试实验

一年多前接触到Langchain-chatchat的0.2版本，对0.2版本进行了本地部署和大量更新，但0.2版本对最新的大模型支持不够好，部署框架支持也不好且不太稳定，特别是多模态大模型，因此本次主要介绍0.3版本的源码部署，希望对大家有所帮助。Langchain-chatchat从0.3版本开始，支持更…...

编程日记 2024/9/21 12:32:39

【Linux】线程（第十六篇）

目录 线程 1.线程基本概述： 2.线程类型： 3.线程间的共享资源与非共享资源 4.线程原语 1.线程创建函数 2.获取当前线程id的函数 3.回收线程资源 4.将线程设置为分离态 5.结束线程 6.退出线程 线程 1.线程基本概述： 是操作系统能够…...

编程日记 2024/9/21 12:31:38

2024华为杯研赛E题保姆级教程思路分析

E题题目：高速公路应急车道紧急启用模型 今年的E题设计到图像/视频处理，实际上，E题的难度相对来说较低，大家不用畏惧视频的处理，被这个吓到。实际上，这个不难，解决了视频的处理问题，…...

编程日记 2024/9/21 12:28:30

国内可以使用的ChatGPT服务【9月持续更新】

首先基础知识还是要介绍得~ 一、模型知识： GPT-4o：最新的版本模型，支持视觉等多模态，OpenAI 文档中已经更新了 GPT-4o 的介绍：128k 上下文，训练截止 2023 年 10 月（作为对比，GPT-4…...

编程日记 2024/9/21 12:27:28

Linux环境Docker安装Mongodb

Linux环境Docker安装Mongodb 环境要求拉取指定版本镜像创建映射目录（相当于数据存放于容器外，容器被删除不会影响数据）启动容器 进入mongo命令行为指定db创建新用户查看mongodb的容器id进入命令行查看所有db切换db为指定db创建新用户使用新账…...

编程日记 2024/9/21 12:25:27

PyTorch 池化层详解

在深度学习中，池化层（Pooling Layer）是卷积神经网络（CNN）中的关键组成部分。池化层的主要功能是对特征图进行降维和减少计算量，同时增强模型的鲁棒性。本文将详细介绍池化层的作用、种类、实现方法&#xf…...

编程日记 2024/9/21 12:24:26

Intel架构的基本知识

1.字节序 CPU的字节序分为LittleEndian和BigEndian。 所谓Endian，就是多字节数据在内存中的排列方式。 例如，假设有一个整数0x11223344： LittleEndian的排列方式是，从内存的低地址开始，依次存放 0x44 0x33 0x22 0x11； BigEndian的排列方式是，从内存的低地址开始，依…...

编程日记 2024/9/21 12:22:24

Element Plus 中Input输入框

通过鼠标或键盘输入字符 input为受控组件，他总会显示Vue绑定值，正常情况下，input的输入事件会正常被响应，他的处理程序应该更新组件的绑定值（或使用v-model）。否则，输入框的值将不会改变 不支…...

编程日记 2024/9/21 12:21:23

大模型中常见 loss 函数

loss 函数 首先，Loss 是允许不降到 0 的，模型计算的 loss 最终结果可以接近 0。 可以成为 loss 函数的条件## 常用 loss 以下函数调用基于 Pytorch，头文件导入： import torch.nn as nn 均方差（MSE） nn.…...

编程日记 2024/9/21 12:18:19

（十六）Ubuntu 20.04 下搭建PX4+MATLAB 仿真环境（HITL）

在文章（十五）Ubuntu 20.04 下搭建PX4MATLAB 仿真环境我们学习了如何配置仿真环境，在本节，主要进行HITL的仿真环境搭建。 根据（十五）Ubuntu 20.04 下搭建PX4MATLAB 仿真环境完成配置到如下界面：…...

编程日记 2024/9/21 12:16:16

Matlab simulink建模与仿真 第十七章（补充离散库和补充数学库）

参考视频：simulink1.1simulink简介_哔哩哔哩_bilibili 一、补充离散库和补充数学库中的模块概览 1、补充离散库 注：每个版本的补充离散库不一定相同，也不是每个版本的库都有如上所有模块。 2、补充数学库 二、离散直接传递函数Ⅱ模块 1、…...

编程日记 2024/9/21 12:15:16

Android Glide：让图片加载从未如此简单

在 Android 开发中，图片加载一直是一个关键环节。无论是从网络还是本地加载图片，都需要考虑到性能、内存管理和用户体验等多个方面。而在这方面，Glide 成为了众多开发者的首选库之一。本文将带你深入了解 Glide 的强大之处，并介绍如何在项目中快速集成和使用 Glide。 为什…...

编程日记 2024/9/21 12:14:14

YOLOv9改进策略【注意力机制篇】| 2024 SCSA-CBAM 空间和通道的协同注意模块

一、本文介绍 本文记录的是基于SCSA-CBAM注意力模块的YOLOv9目标检测改进方法研究。现有注意力方法在空间-通道协同方面未充分挖掘其潜力，缺乏对多语义信息的充分利用来引导特征和缓解语义差异。SCSA-CBAM注意力模块构建一个空间-通道协同机制，使空间注意力引导通道注意力增…...

编程日记 2024/9/21 12:11:12

Obsidian 全部笔记共享配置文件，obsidian仓库-文件夹配置统一化

obsidian仓库-文件夹配置统一化 在每次新建obsidian仓库(vaults)时，仓库的主题和快捷键等都需要重新设置，这是因为每次创建新的仓库时 新仓库的配置文件都是默认配置但是如果通过复制粘贴旧配置文件来达到新仓库的配置和旧仓库一致的话，无法…...

编程日记 2024/9/21 12:09:10

c++可视化打印树

#include <iostream> #include <string>// 定义节点结构体 struct Node {std::string data;Node* left;Node* right;Node(const std::string& data) : data(data), left(nullptr), right(nullptr) {} };// 递归打印树 void printTree(Node* root, std::string …...

编程日记 2024/9/21 12:08:09

ElementUI 快速入门：使用 Vue 脚手架搭建项目

文章目录 一 . ElementUI 的基本安装1.1 通过 Vue 脚手架创建项目1.2 在 vue 脚手架中安装 ElementUI1.3 编写页面 ElementUI 是 Vue.js 的强大 UI 框架&#xff0c;让前端界面开发变得简单高效。本教程将带你从安装到实战&#xff0c;快速掌握 ElementUI 的核心技巧。 核心内容…...

编程日记 2024/9/21 12:04:04

算法打卡：第十一章 图论part02

今日收获&#xff1a;岛屿数量&#xff08;深搜&#xff09;&#xff0c;岛屿数量&#xff08;广搜&#xff09;&#xff0c;岛屿的最大面积 1. 岛屿数量&#xff08;深搜&#xff09; 题目链接&#xff1a;99. 岛屿数量 思路&#xff1a;二维遍历数组&#xff0c;先判断当前…...

编程日记 2024/9/21 12:03:03

广度优先搜索算法及其matlab程序详解

#################本文为学习《图论算法及其MATLAB实现》的学习笔记################# 算法用途 广度优先搜索算法的应用 算法思想 广度优先搜索算法的步骤: ①,标号,令。 ②当所有标号为 的、与顶点 相关联的边的端点都已标号时,则停止;否则,把与 相关联的边的未标号的…...

编程日记 2024/9/21 12:02:01

力扣 438找到字符串中所有字母异位词

https://leetcode.cn/problems/find-all-anagrams-in-a-string/ 题目描述 题目分析 异位词所表示的空间 P \text{P} P 即一字符串的所有排列,记 s i \bold{s_i} si​为以 s [ i ] s[i] s[i]开头的长度为 plen \text{plen} plen的 s s s子串 故本题可理解为求解 A n s Ans Ans…...

编程日记 2024/9/21 12:01:00

图像滤波---各项异性扩散滤波使用笔记及代码

图像滤波---各项异性扩散滤波使用笔记及代码 一、文章内容介绍二、各项异性扩散滤波和各项同性滤波1、各项同性滤波2、各项异性扩散滤波3、各项异性和各项同性的对比 三、各项异性扩散滤波的原理介绍四、各项异性扩散滤波公式五、公式中的参数使用说明1、扩散速率 λ \lambda λ…...

编程日记 2024/9/21 11:58:58

阿博图书馆管理系统信息管理系统源码-SpringBoot后端+Vue前端+MySQL【可直接运行】

&#x1f4a1;实话实说&#xff1a;用最专业的技术、最实惠的价格、最真诚的态度服务大家。无论最终合作与否&#xff0c;咱们都是朋友&#xff0c;能帮的地方我绝不含糊。买卖不成仁义在&#xff0c;这就是我的做人原则。摘要 在信息化时代背景下&#xff0c;图书馆作为知识传…...

编程新知 2026/4/2 3:23:31

如何写 Skill

核心概念 Skill 是一个自包含的模块&#xff0c;用来给 Claude/Cascade 注入特定领域的知识、工作流和工具。本质上就是一个"新手入职指南"&#xff0c;让通用 AI 变成某个领域的专家。 目录结构 skill-name/ ├── SKILL.md # 必须&#xff0c;核心文件 └…...

编程新知 2026/4/2 1:32:12

TP4056充电板实战避坑指南：从LED状态误判到TEMP脚悬空，新手最容易踩的5个坑

TP4056充电板实战避坑指南&#xff1a;从LED状态误判到TEMP脚悬空&#xff0c;新手最容易踩的5个坑 第一次使用TP4056充电板时&#xff0c;我盯着闪烁的LED灯陷入了困惑——为什么充满电后红灯还亮着&#xff1f;为什么电池发热异常&#xff1f;这些问题让我意识到&#xff0c;…...

编程新知 2026/4/2 0:55:48

建筑物缺陷分割图像识别

建筑物缺陷分割图像识别 README 项目概述 建筑物缺陷分割数据集分析数据概览关键信息总数量5213张图像&#xff0c;涵盖类别&#xff1a;裂缝、剥落、锈蚀、污渍数据集数量5200数据集格式YoloVOC&#xff1b;应用价值&#xff1a;支持建筑物缺陷自动分割与识别&#xff0c;用于…...

编程新知 2026/4/2 0:08:45

2025届学术党必备的五大AI写作网站解析与推荐

Ai论文网站排名&#xff08;开题报告、文献综述、降aigc率、降重综合对比&#xff09; TOP1. 千笔AI TOP2. aipasspaper TOP3. 清北论文 TOP4. 豆包 TOP5. kimi TOP6. deepseek DeepSeek身为新一代人工智能辅助写作工具&#xff0c;于学术论文撰写的整个流程里&#xff0…...

编程新知 2026/4/2 0:04:44

AIGlasses_for_navigation多场景落地：日常通勤、医院导诊、地铁站导航三场景实测

AIGlasses_for_navigation多场景落地&#xff1a;日常通勤、医院导诊、地铁站导航三场景实测 1. 引言&#xff1a;当导航从手机屏幕“走”到眼前 想象一下这样的场景&#xff1a;你走在陌生的城市街道&#xff0c;要去一个从未去过的咖啡馆。你不需要低头看手机地图&#xff…...

编程新知 2026/4/1 23:58:40

导入MotorCAD API（需先安装MotorCAD的Python接口）

基于Motorcad的4极6槽 内转子采用内插式磁钢 3000rpm 输出转矩 2.6Nm 效率93%外径 94mm 轴向长度70mm 功率800w 直流母线380V 永磁同步电机&#xff08;永磁直流无刷&#xff09;模型(PMSM或者是BLDC) 最近捣鼓了个小功率PMSM模型&#xff0c;用MotorCAD搭了个4极6槽内插式的&a…...

编程新知 2026/4/1 23:30:18

别再乱选ASCII/HEX了！野火串口调试助手发送接收区配置详解（附实战案例）

串口通信调试实战&#xff1a;ASCII与HEX模式的选择艺术 调试智能家居设备时&#xff0c;你是否遇到过发送"ON"指令毫无反应&#xff0c;接收区却显示一堆乱码的尴尬&#xff1f;这往往不是设备故障&#xff0c;而是串口调试中最常见的模式选择错误。作为嵌入式开发者…...

编程新知 2026/4/1 23:03:56

美的集团2025年营收创新高、利润100%分红 落地1.3万个AI智能体

3月30日&#xff0c;美的集团发布2025年年报&#xff0c;实现营业总收入4585亿元&#xff0c;同比增长12.1%&#xff1b;归属于上市公司股东的净利润439.5亿元&#xff0c;同比上升14%。在业绩再创新高的同时&#xff0c;伴随我国“人工智能”行动的全面实施&#xff0c;美的集…...

编程新知 2026/4/1 22:43:33

BiliTools：你的跨平台B站资源智能下载助手，轻松保存高清视频与无损音频

BiliTools&#xff1a;你的跨平台B站资源智能下载助手&#xff0c;轻松保存高清视频与无损音频 【免费下载链接】BiliTools A cross-platform bilibili toolbox. 跨平台哔哩哔哩工具箱&#xff0c;支持下载视频、番剧等等各类资源 项目地址: https://gitcode.com/GitHub_Tren…...

编程新知 2026/4/1 22:17:18