LLM企业应用落地场景中的问题概览
三个问题
- AI思维
- 快速工具：需要对接LLM的API、控制幻觉、管理知识库。
- POC验证
四个难点
- 私有化部署的环境：包括网络和服务器环境。
- 交互友好
- 意想不到的情况
- 方向选择：让客户做目标和方向的选择
问题
一、RAG
多跳问题
通常发生在报告编写的数据整理环节，比如要从一堆报表中找出企业近三年的复合增长率，要和竞对比较发展情况等。解决多跳问题的方案：通常使用图数据库，也可以采用理解意图，然后拆分实体和意图的方式进行RAG。
路由问题
路由问题：外部MoE。
例如：获取公司2021年的财报和2022年的财报中某项数据，有时候只在文件名和某些大标题才有年份，就造成了chunking之后失去年份等关键信息，造成最终结果的错误。
这种问题可采用在文件处理时收录元数据，如标题、时间、区域等。然后在检索的时候，首先对问题进行拆解，识别年份等关键信息，直接路由到相应的年份知识库或目录进行检索，不仅提升效率还解决了内容混淆的问题。
二、数据
结构化数据处理
结构化数据无法逃避，比如企业想把自己的产品数据库加入
相关文章：
LLM企业应用落地场景中的问题概览
三个问题 AI思维快速工具：需要对接LLM的API、控制幻觉、管理知识库。POC验证四个难点 私有化部署的环境：包括网络和服务器环境。交互友好意想不到的情况方向选择：让客户做目标和方向的选择问题 一、RAG 多跳问题 通常发生在报告编写的数据整理环节，比如要从一堆报表中找…...
基于灰狼优化算法优化支持向量机（GWO-SVM）时序预测
代码原理及流程 基于灰狼优化算法优化支持向量机（GWO-SVM）的时序预测代码的原理和流程如下： 1. **数据准备**：准备时序预测的数据集，将数据集按照时间顺序划分为训练集和测试集。 2. **初始化灰狼群体和SVM模型参数…...
C++中获取int最大与最小值
不知道大家有没有遇到过这种要求：“返回值必须是int，如果整数数超过 32 位有符号整数范围 [−2^31, 2^31 − 1] ，需要截断这个整数，使其保持在这个范围内。例如，小于 −2^31 的整数应该被固定为 −2^31 ，大…...
学习通高分免费刷课实操教程
文章目录 概要整体架构流程详细步骤云上全平台登录步骤小结 概要 我之前提到过一个通过浏览器的三个脚本就可以免费高分刷课的文章，由于不方便拍视频进行实操演示，然后写下了这个实操教程，之前的三个脚本划到文章末尾 整体架构流程 整体大…...
缓存降级
当Redis缓存出现问题或者无法正常工作时,需要有一种应对措施,避免直接访问数据库而导致整个系统瘫痪。缓存降级就是这样一种机制。 主要的缓存降级策略包括: 本地缓存降级 当Redis缓存不可用时,可以先尝试使用本地进程内缓存,如Guava Cache或Caffeine等。这样可以减少对Redis…...
PyQt6--Python桌面开发（32.QMenuBar菜单栏控件)
QMenuBar菜单栏控件 选择Main Window...
golang创建式设计模式---工厂模式
创建式设计模式—工厂模式 目录导航 创建式设计模式---工厂模式1)什么是工厂模式2)使用场景3)实现方式4)实践案例5)优缺点分析 1)什么是工厂模式 工厂模式(Factory Method Pattern)是一种设计模式，旨在创建对象时，将对象的创建与使用进行分离。通过定义…...
高精度定位平板主要应用在哪些领域
高精度定位平板是一种集成了高精度定位技术和强大计算能力的设备，能够提供亚米级甚至厘米级的定位精度。其应用领域广泛，涵盖测绘、精准农业、工程建设、地理信息系统（GIS）、公共安全等多个方面。这种设备凭借其高精度和耐用性&am…...
conda使用常用命令
Conda是一个非常常用的Python包管理器，也是Anaconda Python发行版的一部分。它可以帮助用户安装、更新、卸载Python包，以及管理Python虚拟环境。在这篇博客中，我们将总结一些常用的Conda命令及其用法。 安装和更新Conda 在使用Conda之前&…...
22-LINUX--多线程and多进程TCP连接
一.TCP连接基础知识 1.套接字 所谓套接字(Socket)，就是对网络中不同主机上的应用进程之间进行双向通信的端点的抽象。一个套接字就是网络上进程通信的一端，提供了应用层进程利用网络协议交换数据的机制。从所处的地位来讲，套接字上联应用进程…...
像素级创意：深入浅出PixelCNN图像合成技术
参考 https://arxiv.org/pdf/1601.06759 https://blog.csdn.net/zcyzcyjava/article/details/126559327 需要熟悉熵的一些理论、和极大释然估计等价于最小化交叉熵等知识 1. pixelcnn建模方法 pixelcnn做生成模型的想必都有耳闻。它是一种自回归模型，什么是自回归…...
MyBatisPlus使用流程
引入依赖 <dependency><groupId>com.baomidou</groupId><artifactId>mybatis-plus-boot-starter</artifactId><version>3.5.4</version> </dependency> 版本号根据需要选取 在实体类上加注解声明，表信息 根据数…...
爬虫技术升级：如何结合DrissionPage和Auth代理插件实现数据采集
背景/引言 在大数据时代，网络爬虫技术已经成为数据收集的重要手段之一。爬虫技术可以自动化地从互联网上收集数据，节省大量人力和时间成本。然而，当使用需要身份验证的代理服务器时，许多现有的爬虫框架并不直接支持代理认证。这就…...
go 微服务框架kratos错误处理的使用方法及原理探究
通过go语言原生http中响应错误的实现方法，逐步了解和使用微服务框架 kratos 的错误处理方式，以及探究其实现原理。 一、go原生http响应错误信息的处理方法 处理方法： ①定义返回错误信息的结构体 ErrorResponse // 定义http返回错误信息的…...
AI播客下载：Dwarkesh Podcast（关于AI的深度访谈）
Dwarkesh Podcast 是由 Dwarkesh Patel 主持的播客，专注于深度访谈和探讨各种复杂且有趣的话题。该播客在业界获得了极高的评价，被认为是对话和思想交流的平台。 Dwarkesh Podcast 的内容涵盖了多个领域，包括经济学、哲学以及科技等。例如&am…...
C++11function包装器的使用
类模板std::function是一种通用、多态的函数包装。std::function的实例可以对任何可以调用的目标实体进行存储、 复制和调用操作。这些目标实体包括普通函数、Lambda表达式、函数指针、以及其他函数对象等。std::function对象是对 C中现有的可调用实体的一种类型安全的包裹&…...
Vue3判断变量和对象不为null和undefined
Vue3判断变量和对象不为null和undefined 一、判断变量二、判断对象 一、判断变量 在 Vue 3 中，你可以使用 JavaScript 提供的常规方式来检查变量是否不为 null 和不为 undefined。你可以分别使用严格不等运算符 ! 来比较变量是否不为 null 和不为 undefined。以下是…...
C++进阶：C++11(列表初始化、右值引用与移动构造移动赋值、可变参数模版...Args、lambda表达式、function包装器)
C进阶：C11(列表初始化、右值引用与移动构造移动赋值、可变参数模版…Args、lambda表达式、function包装器) 今天接着进行语法方面知识点的讲解 文章目录 1.统一的列表初始化1.1｛｝初始化1.2 initializer_listpair的补充 2.声明相关关键字2.1a…...
Vue.js Promise 与 async/await 的比较
在现代 Web 开发中，异步操作是不可避免的。在处理异步数据获取时，开发人员通常会使用 Promise 或 async/await。虽然两者都可以实现相同的功能，但它们在代码风格、可读性和错误处理等方面有所不同。本文将对这两种方法进行比较，并…...
Qt 报错总结 No suitable kits found
目录 “No suitable kits found” 解决 解决方法参考： chatGPT辅助解决QT构建报错error: multiple target patterns 我的解决方法：把语言设置为空 “No suitable kits found” 解决 没有找到合适的kits套件，在安装Qt Creator时没有安装Min…...
vscode里如何用git
打开vs终端执行如下： 1 初始化 Git 仓库（如果尚未初始化） git init 2 添加文件到 Git 仓库 git add . 3 使用 git commit 命令来提交你的更改。确保在提交时加上一个有用的消息。 git commit -m "备注信息" 4 …...
模型参数、模型存储精度、参数与显存
模型参数量衡量单位 M：百万（Million） B：十亿（Billion） 1 B 1000 M 1B 1000M 1B1000M 参数存储精度 模型参数是固定的，但是一个参数所表示多少字节不一定，需要看这个参数以什么…...
DAY 47
三、通道注意力 3.1 通道注意力的定义 # 新增：通道注意力模块（SE模块） class ChannelAttention(nn.Module):"""通道注意力模块(Squeeze-and-Excitation)"""def __init__(self, in_channels, reduction_rat…...
【CSS position 属性】static、relative、fixed、absolute 、sticky详细介绍，多层嵌套定位示例
文章目录 ★ position 的五种类型及基本用法 ★ 一、position 属性概述 二、position 的五种类型详解（初学者版） 1. static（默认值） 2. relative（相对定位） 3. absolute（绝对定位） 4. fixed（固定定位） 5. sticky（粘性定位） 三、定位元素的层级关系（z-i…...
SpringTask-03.入门案例
一.入门案例 启动类： package com.sky;import lombok.extern.slf4j.Slf4j; import org.springframework.boot.SpringApplication; import org.springframework.boot.autoconfigure.SpringBootApplication; import org.springframework.cache.annotation.EnableCach…...
第 86 场周赛：矩阵中的幻方、钥匙和房间、将数组拆分成斐波那契序列、猜猜这个单词
Q1、[中等] 矩阵中的幻方 1、题目描述 3 x 3 的幻方是一个填充有 从 1 到 9 的不同数字的 3 x 3 矩阵，其中每行，每列以及两条对角线上的各数之和都相等。 给定一个由整数组成的row x col 的 grid，其中有多少个 3 3 的 “幻方” 子矩阵&am…...
Android第十三次面试总结（四大 组件基础）
Activity生命周期和四大启动模式详解 一、Activity 生命周期 Activity 的生命周期由一系列回调方法组成，用于管理其创建、可见性、焦点和销毁过程。以下是核心方法及其调用时机： onCreate() 调用时机：Activity 首次创建时调用。…...
高效线程安全的单例模式：Python 中的懒加载与自定义初始化参数
高效线程安全的单例模式：Python 中的懒加载与自定义初始化参数 在软件开发中，单例模式（Singleton Pattern）是一种常见的设计模式，确保一个类仅有一个实例，并提供一个全局访问点。在多线程环境下，实现单例模式时需要注意线程安全问题，以防止多个线程同时创建实例，导致…...
回溯算法学习
一、电话号码的字母组合 import java.util.ArrayList; import java.util.List;import javax.management.loading.PrivateClassLoader;public class letterCombinations {private static final String[] KEYPAD {"", //0"", //1"abc", //2"…...
使用Spring AI和MCP协议构建图片搜索服务
目录 使用Spring AI和MCP协议构建图片搜索服务 引言 技术栈概览 项目架构设计 架构图 服务端开发 1. 创建Spring Boot项目 2. 实现图片搜索工具 3. 配置传输模式 Stdio模式（本地调用） SSE模式（远程调用） 4. 注册工具提…...