当前位置： 首页 > news >正文

大模型面试题总结

news 2026/2/8 22:12:42

文章目录

    • 一、大模型（LLMs）基础面
    • 二、大模型（LLMs）进阶面
    • 三、大模型（LLMs）微调面
    • 四、大模型（LLMs）langchain面
      • 1. 基于LLM+向量库的文档对话 基础面
      • 2. 基于LLM+向量库的文档对话 优化面
      • 3. LangChain的概念面试问题
      • 4.LangChain的一些模块提问
      • 5.LangChain的业务提问
      • 6.LangChain的问题解决
    • 五、LoRA、QLoRA、AdaLoRA篇
    • 六、Fine tune
      • 1）基础概念
      • 2）为什么需要 P-tuning v2？
      • 3）为什么需要 P-tuning？
      • 4）为什么需要 指示微调（Prompt-tuning）？
      • 5）为什么需要 前缀微调（Prefix-tuning）？
      • 6）适配器微调（Adapter-tuning）
    • 七、大模型（LLMs）参数高效微调(PEFT) 面
    • 八、大模型（LLMs）推理面
    • 九、大模型（LLMs）评测面
    • 十、大模型（LLMs）强化学习面
    • 十一、大模型（LLMs）训练集面
    • 十二、LLMs 位置编码篇
    • 十三、简单介绍一下 SentencePiece 思路？
    • 十四、Layer Normalization 篇
    • 十五、LLMs 激活函数篇
    • 十六、一些面试问题提问
      • 1）为什么会出现 LLMs 复读机问题？
      • 2）llama 输入句子长度理论上可以无限长吗？
      • 3）什么情况用Bert模型，什么情况用LLaMA、ChatGLM类大模型，咋选？
      • 4）如何让大模型处理更长的文本？
    • 十七、面试高频点
    • 十九、其他面试问题
    • 二十、题外音（社招来源）

一、大模型（LLMs）基础面

  1. 目前 主流的开源模型体系 有哪些？
  2. prefix LM 和 causal LM 区别是什么？
  3. 涌现能力是啥原因？
  4. 大模型LLM的架构介绍？

二、大模型（LLMs）进阶面

  1. llama 输入句子长度理论上可以无限长吗？
  2. 什么是 LLMs 复读机问题？
  3. 为什么会出现 LLMs 复读机问题？
  4. 如何缓解 LLMs 复读机

相关文章：

大模型面试题总结

文章目录 一、大模型（LLMs）基础面二、大模型（LLMs）进阶面三、大模型（LLMs）微调面四、大模型（LLMs）langchain面1. 基于LLM+向量库的文档对话 基础面2. 基于LLM+向量库的文档对话 优化面3. LangChain的概念面试问题4.LangChain的一些模块提问5.LangChain的业务提问6.Lang…...

编程日记 2024/1/28 16:32:59

Authorization Failed You can close this page and return to the IDE

一.问题描述 注册JetBrains成功，并且通过了学生认证，但在activate pycharm时，却显示Authorization Failed You can close this page and return to the IDE如上图 二.原因： 可能是因为之前使用了破解版pycharm 三.解决方法&am…...

编程日记 2024/1/28 16:30:57

【时间序列篇】基于LSTM的序列分类-Pytorch实现 part2 自有数据集构建

系列文章目录 【时间序列篇】基于LSTM的序列分类-Pytorch实现 part1 案例复现 【时间序列篇】基于LSTM的序列分类-Pytorch实现 part2 自有数据集构建 【时间序列篇】基于LSTM的序列分类-Pytorch实现 part3 化为己用 在一个人体姿态估计的任务中，需要用深度学习模型…...

编程日记 2024/1/28 16:28:55

《设计模式的艺术》笔记 - 策略模式

介绍 策略模式定义一系列算法类，将每一个算法封装起来，并让它们可以相互替换。策略模式让算法独立于使用它的客户而变化，也称为政策模式。策略模式是一种对象行为模式。 实现 myclass.h // // Created by yuwp on 2024/1/12. //#ifndef DES…...

编程日记 2024/1/28 16:27:54

【Elasticsearch篇】详解使用RestClient操作索引库的相关操作

文章目录 🍔什么是Elasticsearch🌺什么是RestClient🎆代码操作⭐初始化RestClient⭐使用RestClient操作索引库⭐使用RestClient删除索引库⭐使用RestClient判断索引库是否存在 🍔什么是Elasticsearch Elasticsearch是一个开源的分…...

编程日记 2024/1/28 16:24:50

ES数据处理方法

由于日志数据存在ES项目里，需要从ES中获取日志进行分析，使用SQL数据进行处理，如下： select traceid-- STRING COMMENT 流程id, ,appnum -- BIGINT COMMENT 迭代号, ,appversion --STRING COMMENT APP版本, ,appc…...

编程日记 2024/1/28 16:22:48

STM32实现软件IIC协议操作OLED显示屏（2）

时间记录：2024/1/27 一、OLED相关介绍 （1）显示分辨率128*64点阵 （2）IIC作为从机的地址0x78 （3）操作步骤：主机先发送IIC起始信号S，然后发送OLED的地址0x78，然…...

编程日记 2024/1/28 16:20:47

【linux】远程桌面连接到Debian

远程桌面连接到Debian系统，可以使用以下几种工具： 1. VNC (Virtual Network Computing) VNC（Virtual Network Computing）是一种流行的远程桌面解决方案，它使用RFB（Remote Framebuffer Protocol&#xff0…...

编程日记 2024/1/28 16:19:46

python222网站实战(SpringBoot+SpringSecurity+MybatisPlus+thymeleaf+layui)-菜单管理实现

锋哥原创的SpringbootLayui python222网站实战： python222网站实战课程视频教程（SpringBootPython爬虫实战） ( 火爆连载更新中... )_哔哩哔哩_bilibilipython222网站实战课程视频教程（SpringBootPython爬虫实战） ( 火…...

编程日记 2024/1/28 16:18:45

JS之隐式转换与布尔判定

大家思考一下 [ ] [ ] ？ 答案是空字符串 为什么呢？ 当做加法运算的时候，发现左右两端存在非原始类型，也就是引用类型对象，就会对对象做隐式类型转换 如何执行的？或者说怎么查找的？ 第一步&…...

编程日记 2024/1/28 16:17:44

ubuntu20根目录扩容

ubuntu根目录/ 或者 /home文件夹有时出现空间满了的情况，可以用gparted工具进行空间的重新分配。 首先，如果你是双系统，需要从windows系统下磁盘压缩分配一部分未使用的空间给ubuntu，注意压缩的空间要邻接ubuntu所在盘的位置。 …...

编程日记 2024/1/28 16:16:43

（四）DQL数据查询语言

基础语法 SELECT {*,列名,函数} FROM 表名 [WHERE 条件]; 说明： -SELECT检索关键字 *匹配所有列 , 匹配指定列 -FROM 所提供的数据源（表，视图，另一个查询机制反馈的结果） -WHERE 条件（控制查询的区…...

编程日记 2024/1/28 16:12:38

网络安全03---Nginx 解析漏洞复现

目录 一、准备环境 二、实验开始 2.1上传压缩包并解压 2.2进入目录，开始制作镜像 2.3可能会受之前环境影响，删除即可 ​编辑 2.4制作成功结果 2.5我们的环境一个nginx一个php 2.6访问漏洞 2.7漏洞触发结果 2.8上传代码不存在漏洞 2.9补充&#…...

编程日记 2024/1/28 16:10:36

第十四届蓝桥杯C组题目 三国游戏

4965. 三国游戏 - AcWing题库 小蓝正在玩一款游戏。 游戏中魏蜀吴三个国家各自拥有一定数量的士兵 X,Y,Z（一开始可以认为都为 00）。 游戏有 n 个可能会发生的事件，每个事件之间相互独立且最多只会发生一次，当第 i个事件发生时会分…...

编程日记 2024/1/28 16:04:31

【LeetCode-435】无重叠区间(贪心)

题目链接 题目简介 给定一个区间的集合，找到需要移除区间的最小数量，使剩余区间互不重叠。 注意: 可以认为区间的终点总是大于它的起点。 区间 [1,2] 和 [2,3] 的边界相互“接触”，但没有相互重叠。 示例 1: 输入: [ [1,2], [2,3], [3,4…...

编程日记 2024/1/28 16:00:27

写读后感的时候，可以适当地引用书中的内容吗？

写读后感时，适当地引用书中的内容是可以的，这样可以更好地支持你的观点和感受，增强文章的可信度和说服力。 引用书中的内容可以帮助读者更好地理解你所讨论的主题和人物，同时也可以展示你对原著的深入理解和阅读能力。但是&#…...

编程日记 2024/1/28 15:58:25

RockChip DRM Display Driver

资料来源： 《Rockchip_DRM_Display_Driver_Development_Guide_V1.0.pdf》 《Rockchip_Developer_Guide_DRM_Display_Driver_CN.pdf》 一：DRM概述 DRM（Direct Rendering Manager）直接渲染管理，buffer分配，帧缓冲。对应userspace库位libdrm，libdrm库提供了一系列友好的…...

编程日记 2024/1/28 15:48:16

【数据库】GaussDB数据类型和简单DDL概述

GaussDB是一款华为公司开发的关系型数据库管理系统（RDBMS），提供了多种数据类型用于存储和处理不同类型的数据。以下是GaussDB常见的数据类型： 1、GaussDB常见的数据类型 1.1、数值型（Numeric Types）&…...

编程日记 2024/1/28 15:46:14

malloc/free和new/delete相关问题：

面试题： 1、两种方式的区别： （1）malloc需要强制类型转换，new不需要 （2）malloc需要计算空间大小，new不需要 例如：创建5个int类型的空间 int*p(int *)malloc(sizeof(i…...

编程日记 2024/1/28 15:43:11

设计一套扑克牌

约束和假设 这是一幅用于类似扑克和二十一点等游戏的通用扑克牌吗？ 我们可以假设这副牌有52张（2-10，杰克，女王，国王，埃斯）和4种花色吗？ 我们可以假设输入是有效的，还是需…...

编程日记 2024/1/28 15:42:10

[2025CVPR]DeepVideo-R1：基于难度感知回归GRPO的视频强化微调框架详解

突破视频大语言模型推理瓶颈，在多个视频基准上实现SOTA性能 一、核心问题与创新亮点 1.1 GRPO在视频任务中的两大挑战 ​安全措施依赖问题​ GRPO使用min和clip函数限制策略更新幅度，导致： 梯度抑制：当新旧策略差异过大时梯度消失收敛困难：策略无法充分优化# 传统GRPO的梯…...

编程新知 2025/8/19 23:46:57

vue3 字体颜色设置的多种方式

在Vue 3中设置字体颜色可以通过多种方式实现&#xff0c;这取决于你是想在组件内部直接设置&#xff0c;还是在CSS/SCSS/LESS等样式文件中定义。以下是几种常见的方法&#xff1a; 1. 内联样式 你可以直接在模板中使用style绑定来设置字体颜色。 <template><div :s…...

编程新知 2026/2/4 20:47:44

srs linux

下载编译运行 git clone https:///ossrs/srs.git ./configure --h265on make 编译完成后即可启动SRS # 启动 ./objs/srs -c conf/srs.conf # 查看日志 tail -n 30 -f ./objs/srs.log 开放端口 默认RTMP接收推流端口是1935&#xff0c;SRS管理页面端口是8080&#xff0c;可…...

编程新知 2026/2/6 9:49:55

Python如何给视频添加音频和字幕

在Python中&#xff0c;给视频添加音频和字幕可以使用电影文件处理库MoviePy和字幕处理库Subtitles。下面将详细介绍如何使用这些库来实现视频的音频和字幕添加&#xff0c;包括必要的代码示例和详细解释。 环境准备 在开始之前&#xff0c;需要安装以下Python库&#xff1a;…...

编程新知 2025/9/3 4:12:17

网络编程（UDP编程）

思维导图 UDP基础编程&#xff08;单播&#xff09; 1.流程图 服务器&#xff1a;短信的接收方 创建套接字 (socket)-----------------------------------------》有手机指定网络信息-----------------------------------------------》有号码绑定套接字 (bind)--------------…...

编程新知 2026/2/4 17:31:44

ABAP设计模式之---“简单设计原则(Simple Design)”

“Simple Design”&#xff08;简单设计&#xff09;是软件开发中的一个重要理念&#xff0c;倡导以最简单的方式实现软件功能&#xff0c;以确保代码清晰易懂、易维护&#xff0c;并在项目需求变化时能够快速适应。 其核心目标是避免复杂和过度设计&#xff0c;遵循“让事情保…...

编程新知 2026/1/27 18:13:23

AI病理诊断七剑下天山，医疗未来触手可及

一、病理诊断困局&#xff1a;刀尖上的医学艺术 1.1 金标准背后的隐痛 病理诊断被誉为"诊断的诊断"&#xff0c;医生需通过显微镜观察组织切片&#xff0c;在细胞迷宫中捕捉癌变信号。某省病理质控报告显示&#xff0c;基层医院误诊率达12%-15%&#xff0c;专家会诊…...

编程新知 2026/2/6 20:53:34

Modbus RTU与Modbus TCP详解指南

目录 1. Modbus协议基础 1.1 什么是Modbus？ 1.2 Modbus协议历史 1.3 Modbus协议族 1.4 Modbus通信模型 🎭 主从架构 🔄 请求响应模式 2. Modbus RTU详解 2.1 RTU是什么？ 2.2 RTU物理层 🔌 连接方式 ⚡ 通信参数 2.3 RTU数据帧格式 📦 帧结构详解 🔍…...

编程新知 2025/12/29 22:20:36

AxureRP-Pro-Beta-Setup_114413.exe （6.0.0.2887）

Name&#xff1a;3ddown Serial&#xff1a;FiCGEezgdGoYILo8U/2MFyCWj0jZoJc/sziRRj2/ENvtEq7w1RH97k5MWctqVHA 注册用户名&#xff1a;Axure 序列号&#xff1a;8t3Yk/zu4cX601/seX6wBZgYRVj/lkC2PICCdO4sFKCCLx8mcCnccoylVb40lP...

编程新知 2026/2/4 19:42:20

Windows电脑能装鸿蒙吗_Windows电脑体验鸿蒙电脑操作系统教程

鸿蒙电脑版操作系统来了&#xff0c;很多小伙伴想体验鸿蒙电脑版操作系统&#xff0c;可惜&#xff0c;鸿蒙系统并不支持你正在使用的传统的电脑来安装。不过可以通过可以使用华为官方提供的虚拟机&#xff0c;来体验大家心心念念的鸿蒙系统啦&#xff01;注意&#xff1a;虚拟…...

编程新知 2026/2/6 2:33:44