当前位置： 首页 > article >正文

【大模型（LLMs）RAG 检索增强生成 面经】

article 2026/3/10 21:55:06

1 RAG 基础面

1.1 为什么大模型需要外挂 (向量) 知识库？

如何将外部知识注入大模型，最直接的方法：利用外部知识对大模型进行微调。
思路： 构建几十万量级的数据，然后利用这些数据 对大模型进行微调，以将 额外知识注入大模型
优点： 简单粗暴
缺点：
这几十万量级的数据 并不能很好的将额外知识注入大模型；
训练成本昂贵。不仅需要 多卡并行，还需要 训练很多天；
既然大模型微调不是将外部知识注入大模型的最优方案，那是否有其它可行方案？

1.2. RAG 思路是怎么样？

⚫ 加载文件
⚫ 读取文本
⚫ 文本分割
⚫ 文本向量化
⚫ 问句向量化
⚫ 在文本向量中匹配出与问句向量最相似的 top k 个
⚫ 匹配出的文本作为上下文和问题一起添加到 prompt 中
⚫ 提交给 LLM 生成回答

在这里插入图片描述

相关文章：

【大模型（LLMs）RAG 检索增强生成 面经】

1 RAG 基础面 1.1 为什么大模型需要外挂 (向量) 知识库？ 如何将外部知识注入大模型，最直接的方法：利用外部知识对大模型进行微调。 思路： 构建几十万量级的数据，然后利用这些数据 对大模型进行微调，以将 额外知识注入大模型 优点： 简单粗暴 缺点： 这几十万量级的数据…...

编程日记 2026/2/21 12:12:43

Centos 7 安装达梦数据库

一、环境准备 1. 确认操作系统的版本和数据库的版本是否一致 cat /etc/redhat-release 2. 关闭防火墙 查看防火墙状态 firewall-cmd --state 停止firewall systemctl stop firewalld.service 禁止firewall开机启动 systemctl disable firewalld.service 3. 修改文件l…...

编程日记 2026/3/3 0:16:54

@Autowired 注解在构造器上的使用规则（字段注入也挺好的）

背景 在看Spring Framework官方文档时，看到这样一段描述： As of Spring Framework 4.3, an Autowired​ annotation on such a constructor is no longer necessary if the target bean defines only one constructor to begin with. However, if seve…...

编程日记 2026/2/14 13:28:48

深度学习视觉2D检测算法综述

目录 一、两阶段目标检测算法 1.1 R-CNN（Region-based CNN，2014） 1.2 Fast R-CNN（Fast Region-based CNN，2015） 1.3 Faster R-CNN（Faster Region-based CNN，2016） 1…...

编程日记 2026/3/10 17:06:13

复试不难，西电马克思主义学院—考研录取情况

01、马克思主义学院各个方向 02、24马克思主义学院近三年复试分数线对比 PS：马院24年院线相对于23年院线增加15分，反映了大家对于马克思主义理论学习与研究的热情高涨，也彰显了学院在人才培养、学科建设及学术研究等方面的不断进步与成就。 6…...

编程日记 2026/3/8 7:06:14

Axios 请求取消：从原理到实践

Axios 请求取消：从原理到实践 在现代前端开发中，网络请求是不可或缺的一部分。Axios 是一个基于 Promise 的 HTTP 客户端，广泛应用于浏览器和 Node.js 环境中。然而，在某些场景下，我们可能需要取消正在进行的请求&…...

编程日记 2026/3/2 12:34:26

【Leetcode 每日一题】3306. 元音辅音字符串计数 I

问题背景 给你一个字符串 w o r d word word 和一个 非负 整数 k k k。 返回 w o r d word word 的 子字符串 中，每个元音字母（‘a’、‘e’、‘i’、‘o’、‘u’）至少 出现一次，并且 恰好 包含 k k k 个辅音字母的子字符串…...

编程日记 2026/2/14 11:54:50

【A2DP】深入解读A2DP中通用访问配置文件（GAP）的互操作性要求

目录 一、模式支持要求 1.1 发现模式 1.2 连接模式 1.3 绑定模式 1.4 模式间依赖关系总结 1.5 注意事项 1.6 协议设计深层逻辑 二、安全机制（Security Aspects） 三、空闲模式操作（Idle Mode Procedures） 3.1 支持要求 …...

编程日记 2026/3/5 15:40:02

分享一个免费的CKA认证学习资料

关于CKA考试 CKA（Certified Kubernetes Administrator）是CNCF基金会（Cloud Native Computing Foundation）官方推出的Kubernetes管理员认证计划，用于证明持有人有履行Kubernetes管理的知识，技能等相关的能力…...

编程日记 2026/2/25 3:00:11

观成科技：​加密C2框架Platypus流量分析

一、工具介绍 Platypus 是一款支持多会话的交互式反向 Shell 管理器。在实际的渗透测试中，为了解决 Netcat/Socat 等工具在文件传输、多会话管理方面的不足,该工具在多会话管理的基础上增加了在渗透测试中能更好发挥作用的功能（如：交互式 Sh…...

编程日记 2026/3/5 21:53:29

Jetson Nano NX 重装系统

本篇记录了自己刚拿到Jetson板子后，刻意去学习给板子重刷系统的过程，学会重装系统是玩嵌入式开发板的基操。 注意：我使用的是 Nvidia 官方 SDK Manager 给 Jetson 刷系统的，需要额外准备一台 linux 电脑（双系统或者虚拟…...

编程日记 2026/2/25 23:24:48

注解+AOP实现权限控制

注解与AOP实战：实现权限控制 在现代Java开发中，注解（Annotation）和面向切面编程（AOP）是两种强大的技术，它们能够帮助我们实现代码的解耦，提高代码的可读性和可维护性。本文将通过一…...

编程日记 2026/2/14 18:27:57

Java数据结构第二十三期：Map与Set的高效应用之道(二)

专栏：Java数据结构秘籍 个人主页：手握风云 目录 一、哈希表 1.1. 概念 1.2. 冲突 1.3. 避免冲突 1.4. 解决冲突 1.5. 实现 二、OJ练习 2.1. 只出现一次的数字 2.2. 随机链表的复制 2.3. 宝石与石头 一、哈希表 1.1. 概念 顺序结构以及平衡树中…...

编程日记 2026/3/8 1:06:22

linux系统命令——权限

一、有哪些权限 读（r）——对应数字4 写（w）——对应数字2 执行（x）——对应数字1 二、权限及数字的对应 4对应r-- 2对应-w- 1对应--x 5对应r-x 6对应rw- 7对应rwx 三、文件的基本属性 如图&#…...

编程日记 2026/2/19 11:39:50

设计模式-工厂模式、策略模式、代理模式、责任链模式

目录 1 工厂模式 1.1 简单工厂模式 1.2 工厂方法模式 1.3 抽象工厂模式 1.4 工厂模式适用的场合 1.5 三种工厂模式的使用选择 2 策略模式 2.1 定义 2.2 结构 3 代理模式 3.1 啥是代理模式 3.2 为啥要用代理模式 3.3 代理模式分类 3.3.1 静态代理 3.3.2 动态代理…...

编程日记 2026/1/8 0:15:43

nginx中间件部署

普通权限账户安装NGINX中间件 1、拥有高级权限的账户安装必要的插件 sudo yum install -y gcc-c make pcre pcre-devel zlib zlib-devel openssl openssl-devel 2、普通账户进行NGINX的脚本式安装 vi nginx_intall.sh #!/bin/bash TAR_NAME"$1" TAR_NAME_DIRba…...

编程日记 2025/12/23 14:45:15

PentestGPT 下载

PentestGPT 下载 PentestGPT 介绍 PentestGPT（Penetration Testing GPT）是一个基于大语言模型（LLM）的智能渗透测试助手。它结合了 ChatGPT（或其他 GPT 模型）与渗透测试工具，帮助安全研究人员自…...

编程日记 2026/2/21 10:17:35

JVM 2015/3/15

定义：Java Virtual Machine -java程序的运行环境（java二进制字节码的运行环境） 好处： 一次编写，到处运行 自动内存管理，垃圾回收 数组下标越界检测 多态 比较：jvm/jre/jdk 常见的JVM&…...

编程日记 2026/2/27 1:35:20

Java中接口隔离原则简介和代码举例

简介： 接口隔离原则（Interface Segregation Principle，ISP）是面向对象设计SOLID原则中的“I”，其核心思想是： 定义 客户端不应被迫依赖它不使用的方法。即，一个类对另一个类的依赖应建立在最…...

编程日记 2026/2/26 4:24:19

基于自定义线程池手写一个异步任务管理器

我们在后端执行某些耗时逻辑操作时往往会导致长时间的线程阻塞，在这种情况之下，我们往往会引一条异步线程去处理这些异步任务，如果每次都创建新的线程来处理这些任务，不仅会增加代码冗余，还可能造成线程管理混乱&#…...

编程日记 2026/2/14 23:41:54

sql靶场-时间盲注（第九、十关）保姆级教程

目录 时间盲注（第九、十关） 1.判断 2.确认时间盲注 2.手工尝试时间盲注 数据库名长度 数据库名字符 表数 表名长度 表名字符 字段数 字段名长度 字段名字符 4.脚本时间盲注注入 5.第十关 时间盲注（第九、十关） 1.判…...

编程日记 2026/2/23 21:04:02

Vuex 高级技巧与最佳实践

使用 map 辅助函数简化代码： javascript import { mapState, mapGetters } from vuexexport default {computed: {...mapState([num]),...mapGetters([doubleNum])} }模块化开发： javascript // modules/student.js export default {namespaced: true,st…...

编程日记 2026/3/9 4:50:27

51c自动驾驶~合集54

我自己的原文哦~ https://blog.51cto.com/whaosoft/13517811 #Chameleon 快慢双系统！清华&博世最新：无需训练即可解决复杂道路拓扑 在自动驾驶技术中，车道拓扑提取是实现无地图导航的核心任务之一。它要求系统不仅能检测出车道和交…...

编程日记 2026/3/4 13:45:08

大模型推理：LM Studio在Mac上部署Deepseek-R1模型

LM Studio LM Studio是一款支持离线大模型部署的推理服务框架，提供了易用的大模型部署web框架，支持Linux、Mac、Windows等平台，并提供了OpenAI兼容的SDK接口，主要使用LLama.cpp和MLX推理后端，在Mac上部署时选择MLX推理…...

编程日记 2026/3/6 13:48:58

扩散模型：AIGC领域的核心引擎，解锁图像生成新维度

一、扩散模型技术原理 扩散模型是一类生成模型，它运用了物理热力学中的扩散思想， 主要包括前向扩散和反向扩散两个过程。 1.1、生成模型 在深度学习中，生成模型的目标是根据给定的样本（训练数据） 生成新样本。首先给…...

编程日记 2026/3/7 7:33:42

Java多线程与高并发专题——原子类和 volatile、synchronized 有什么异同？

原子类和 volatile异同 首先，通过我们对原子类和的了解，原子类和volatile 都能保证多线程环境下的数据可见性。在多线程程序中，每个线程都有自己的工作内存，当多个线程访问共享变量时，可能会出现一个线程修改了共享变…...

编程日记 2026/3/7 7:07:13

//要求：将输入的字符串中的数字转换为罗马数字,长度小于9（运用方法：Switch方法）

import java.util.Scanner;public class Num2 {public static void main(String[] args){ // I II III IV V VI VII VIII IX//要求：将输入的字符串中的数字转换为罗马数字,长度小于9（运用方法：查表法）//1输入数字//2有效字符判断/…...

编程日记 2026/2/21 8:55:51

【数据结构】数据结构，算法 概念

0.本篇问题： 数据、数据元素、数据对象、数据项之间的基本关系？ADT是什么？数据结构的三要素？数据的逻辑结构有哪些？数据的存储结构有哪些？算法的五个特征？O(1) O(logn) O(n^n) O(n) O(n^2…...

编程日记 2026/2/26 2:56:42

pytest 框架学习总结

视频：pytest01-快速上手_哔哩哔哩_bilibili 资料：pytest 框架 - 白月黑羽 基于 Python 语言的自动化测试框架 最知名的 有如下 3 款unittest、pytest、robotframework 前两款框架主要（或者说很大程度上）是 聚焦 在 白盒单元测试…...

编程日记 2026/3/10 1:43:19

总结 HTTP 协议的基本格式, 相关知识以及抓包工具fiddler的使用

目录 1 HTTP是什么 2 HTTP协议格式 3 HTTP请求(Request) 3.1 认识URL 3.2 方法 3.3 认识请求"报头"(header) 4 HTTP响应详解 4.1 认识"状态码"(statuscode) 4.2 认识响应"报头"(header) 4.3 认识响应"正⽂"(body) 5 通过f…...

编程日记 2026/3/4 0:42:24