当前位置： 首页 > news >正文

AI大模型开发架构设计（10）——AI大模型架构体系与典型应用场景

news 2026/2/3 10:01:20

文章目录

    • AI大模型架构体系与典型应用场景
      • 1 AI大模型架构体系你了解多少?
        • GPT 助手训练流程
        • GPT 助手训练数据预处理
        • 2个训练案例分析
      • 2 AI 大模型的典型应用场景以及应用架构剖析
        • AI 大模型的典型应用场景
        • AI 大模型应用架构

AI大模型架构体系与典型应用场景

1 AI大模型架构体系你了解多少?

GPT 助手训练流程

image.png

  • 横向来看，分为四步：预训练（无监督、99%算力+时间）、有监督微调、奖励模型、强化学习
  • 纵向来看，每一部分需要：数据集（Dataset）、算法（Algorithm）、模型（Model）、花销
GPT 助手训练数据预处理

image.png

2个训练案例分析

image.png

2 AI 大模型的典型应用场景以及应用架构剖析

AI 大模型的典型应用场景
  • 智能客服：https://sitegpt.ai/
  • 智能知识库：https://python.langchain.com/
  • 智能助手：https://gpt.naixuejiaoyu.com/
  • 智能数据分析：
    • https://chat.openai.com/?model=gpt-4-code-interpreter
    • https://miracleplus.feishu.cn/wiki/JC66wPDLIiQCvok0v4Eca7QpnQg
AI 大模型应用架构
  • 基于 AI 大模型应用技术架构(1)——AI First

外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

  • 基于 AI 大模型应用技术架构(2)——AI Agent

image.png

  • 基于 AI 大模型应用技术架构(3)——Fine-tuning

image.png

企业知识库案例三步骤

  • 文档 -> Vector Store 表示语义的 Index，可以做语义搜索
  • Retrieval 是将 Query Embeding 后，查询近似文档过程
  • 大模型做最后的知识理解和 QA 问答

相关文章：

AI大模型开发架构设计（10）——AI大模型架构体系与典型应用场景

文章目录 AI大模型架构体系与典型应用场景1 AI大模型架构体系你了解多少?GPT 助手训练流程GPT 助手训练数据预处理2个训练案例分析 2 AI 大模型的典型应用场景以及应用架构剖析AI 大模型的典型应用场景AI 大模型应用架构 AI大模型架构体系与典型应用场景 1 AI大模型架构体系你…...

编程日记 2024/2/8 5:00:26

C# async/await的使用

C# 中的 async 和 await 关键字是用于实现异步编程的重要工具，它们简化了编写和维护非阻塞代码的过程。以下是对这两个关键字用法的简要说明： async 关键字 定义异步方法：在方法声明前使用 async 关键字，表示该方法是一个异步方…...

编程日记 2024/2/8 4:57:22

C语言之找单身狗

个人主页（找往期文章包括但不限于本期文章中不懂的知识点）： 我要学编程(ಥ_ಥ)-CSDN博客 题目： 在一个整型数组中，只有一个数字出现一次，其他数组都是成对出现的，请找出那个只出现一次的数字。…...

编程日记 2024/2/8 4:56:19

读懂 FastChat 大模型部署源码所需的异步编程基础

原文：读懂 FastChat 大模型部署源码所需的异步编程基础 - 知乎 目录 0. 前言 1. 同步与异步的区别 2. 协程 3. 事件循环 4. await 5. 组合协程 6. 使用 Semaphore 限制并发数 7. 运行阻塞任务 8. 异步迭代器 async for 9. 异步上下文管理器 async with …...

编程日记 2024/2/8 4:54:18

【华为】GRE VPN 实验配置

【华为】GRE VPN 实验配置 前言报文格式 实验需求配置思路配置拓扑GRE配置步骤R1基础配置GRE 配置 ISP_R2基础配置 R3基础配置GRE 配置 PCPC1PC2 抓包检查OSPF建立GRE隧道建立 配置文档 前言 VPN ：（Virtual Private Network），即“…...

编程日记 2024/2/8 4:51:15

创建一个VUE项目（vue2和vue3）

背景：电脑已经安装完vue2和vue3环境 一台Mac同时安装vue2和vue3 https://blog.csdn.net/c103363/article/details/136059783 创建vue2项目 vue init webpack "项目名称"创建vue3项目 vue create "项目名称"...

编程日记 2024/2/8 4:49:13

Android 10.0 动态壁纸 LiveWallpaper

前言 在 Android 中，壁纸分为动态与静态两种，但其实两者得本质都是一样。都以一个 Service 得形式在后台运行，在一个类型为 TYPE_WALLPAPER 的窗口上绘制内容。也可以这么去理解：静态壁纸是一种特殊的动态壁纸，它仅在…...

编程日记 2024/2/8 4:46:10

Linux内核与驱动面试经典“小”问题集锦（4）

接前一篇文章：Linux内核与驱动面试经典“小”问题集锦（3） 问题5 问：Linux内核中内存分配都有哪些方式？它们之间的使用场景都是什么？ 备注：这个问题是笔者近期参加蔚来面试时遇到的一个问题。这…...

编程日记 2024/2/8 4:42:06

使用python实现：判断任意坐标点在STL几何模型的内部或外部

简介 在STL几何模型处理的过程中，经常需要判断一个点是否在模型的内部。网上给出的资料主要是使用C vtk的，而python vtk的很少。本文给出了一段精简版的python代码，实现判断任意坐标点在STL几何模型的内部或外部。 代码 首先定义三个函数 …...

编程日记 2024/2/8 4:39:03

leetcode（滑动窗口）483.找到字符中所有字母异位词（C++详细解释）DAY4

文章目录 1.题目示例提示 2.解答思路3.实现代码结果 4.总结 1.题目 给定两个字符串 s 和 p，找到 s 中所有 p 的 异位词 的子串，返回这些子串的起始索引。不考虑答案输出的顺序。 异位词 指由相同字母重排列形成的字符串（包括相同的字符串&a…...

编程日记 2024/2/8 4:38:02

Leaf——美团点评分布式ID生成系统

0.普通算法生成id的缺点 1.Leaf-segment数据库方案 第一种Leaf-segment方案，在使用数据库的方案上，做了如下改变： - 原方案每次获取ID都得读写一次数据库，造成数据库压力大。改为利用proxy server批量获取，每次获取一…...

编程日记 2024/2/8 4:36:00

ProcessSlot构建流程分析

ProcessorSlot ProcessorSlot构建流程 // com.alibaba.csp.sentinel.CtSph#lookProcessChain private Entry entryWithPriority(ResourceWrapper resourceWrapper, int count, boolean prioritized, Object... args)throws BlockException {// 省略创建 Context 的代码// 黑盒…...

编程日记 2024/2/8 4:34:58

工业笔记本丨行业三防笔记本丨亿道加固笔记本定制丨极端温度优势

工业笔记本是专为在恶劣环境条件下工作而设计的高度耐用的计算机设备。与传统消费者级笔记本电脑相比，工业笔记本在极端温度下展现出了许多优势。本文将探讨工业笔记本在极端温度环境中的表现，并介绍其优势。 耐高温性能: 工业笔记本具有更高的耐高温性…...

编程日记 2024/2/8 4:32:56

游戏服务器多少钱一台？腾讯云32元，阿里云26元

游戏服务器租用多少钱一年？1个月游戏服务器费用多少？阿里云游戏服务器26元1个月、腾讯云游戏服务器32元，游戏服务器配置从4核16G、4核32G、8核32G、16核64G等配置可选，可以选择轻量应用服务器和云服务器，阿腾云atengyu…...

编程日记 2024/2/8 4:30:53

实战分享：SpringBoot在创新创业项目管理中的应用

✍✍计算机编程指导师 ⭐⭐个人介绍：自己非常喜欢研究技术问题！专业做Java、Python、微信小程序、安卓、大数据、爬虫、Golang、大屏等实战项目。 ⛽⛽实战项目：有源码或者技术上的问题欢迎在评论区一起讨论交流！ ⚡⚡ Java实战 |…...

编程日记 2024/2/8 4:29:52

vue3：28— Vue 2 对 Vue 3 的所有非兼容性改变。（vue3学习笔记终）

非兼容性改变 | Vue 3 迁移指南 过渡类名v-enter 修改为 v-enter-from、过渡类名 v-leave 修改为 v-leave-from 。keyCode 作为 v-on 修饰符的支持。v-model 指令在组件上的使用已经被重新设计，替换掉了v-bind.sync.v-if 和 v-for 在同一个元素身上使用时的优先级发…...

编程日记 2024/2/8 4:28:51

【学习笔记】TypeScript学习笔记1 --TypeScript中的类型

文章目录 TS总的变量类型References TS总的变量类型 备注： 如果一个变量设置为了any 类型之后相当于变量关闭了TS的类型检测 let d: any; d 10; d hello;//unknown表示的是未知类型，实际是上一个安全的any,unknown类型的变量不能直接赋值给其他变量le…...

编程日记 2024/2/8 4:24:45

矩阵的正定(positive definite)性质的作用

1. 定义 注意，本文中正定和半正定矩阵不要求是对称或Hermite的。 2. 性质 3. 作用 （1）Axb直接法求解 cholesky实对称正定矩阵求解复共轭对称正定矩阵求解LDL实对称非正定矩阵求解复共轭对称非正定矩阵求解复对称矩阵求解LU实非对称矩阵求解…...

编程日记 2024/2/8 4:21:42

用python编写爬虫，爬取房产信息

题目 报告要求 工程报告链接放在这里 https://download.csdn.net/download/Samature/88816284使用 1.安装jupyter notebook 2.用jupyter notebook打开工程里的ipynb文件，再run all就行 注意事项 可能遇到的bug 暂无，有的话私信我...

编程日记 2024/2/8 4:16:36

Swift Combine 从入门到精通一

1. Combine 简介 用 Apple 官方的话来说，Combine 是: a declarative Swift API for processing values over time. Combine 是 Apple 用来实现函数响应式编程的库， 类似于 RxSwift。 RxSwift 是 ReactiveX 对 Swift 语言的实现。 Combine 使用了许多可以…...

编程日记 2024/2/8 4:14:34

ubuntu搭建nfs服务centos挂载访问

在Ubuntu上设置NFS服务器 在Ubuntu上，你可以使用apt包管理器来安装NFS服务器。打开终端并运行： sudo apt update sudo apt install nfs-kernel-server创建共享目录 创建一个目录用于共享，例如/shared： sudo mkdir /shared sud…...

编程新知 2026/1/12 14:38:19

从零实现富文本编辑器#5-编辑器选区模型的状态结构表达

先前我们总结了浏览器选区模型的交互策略，并且实现了基本的选区操作，还调研了自绘选区的实现。那么相对的，我们还需要设计编辑器的选区表达，也可以称为模型选区。编辑器中应用变更时的操作范围，就是以模型选区为基准来…...

编程新知 2026/1/16 16:34:26

AtCoder 第409​场初级竞赛 A~E题解

A Conflict 【题目链接】 原题链接：A - Conflict 【考点】 枚举 【题目大意】 找到是否有两人都想要的物品。 【解析】 遍历两端字符串，只有在同时为 o 时输出 Yes 并结束程序，否则输出 No。 【难度】 GESP三级 【代码参考】 #i…...

编程新知 2025/12/16 4:45:38

Linux相关概念和易错知识点（42）（TCP的连接管理、可靠性、面临复杂网络的处理）

目录 1.TCP的连接管理机制（1）三次握手①握手过程②对握手过程的理解 （2）四次挥手（3）握手和挥手的触发（4）状态切换①挥手过程中状态的切换②握手过程中状态的切换 2.TCP的可靠性&…...

编程新知 2026/1/30 0:09:51

Leetcode 3577. Count the Number of Computer Unlocking Permutations

Leetcode 3577. Count the Number of Computer Unlocking Permutations 1. 解题思路2. 代码实现 题目链接：3577. Count the Number of Computer Unlocking Permutations 1. 解题思路 这一题其实就是一个脑筋急转弯，要想要能够将所有的电脑解锁&#x…...

编程新知 2026/1/4 2:33:39

剑指offer20_链表中环的入口节点

链表中环的入口节点 给定一个链表，若其中包含环，则输出环的入口节点。 若其中不包含环，则输出null。 数据范围 节点 val 值取值范围 [ 1 , 1000 ] [1,1000] [1,1000]。 节点 val 值各不相同。 链表长度 [ 0 , 500 ] [0,500] [0,500]。 …...

编程新知 2026/1/31 6:09:22

Cloudflare 从 Nginx 到 Pingora：性能、效率与安全的全面升级

在互联网的快速发展中，高性能、高效率和高安全性的网络服务成为了各大互联网基础设施提供商的核心追求。Cloudflare 作为全球领先的互联网安全和基础设施公司，近期做出了一个重大技术决策：弃用长期使用的 Nginx，转而采用其内部开发…...

编程新知 2026/1/29 21:20:51

C++中string流知识详解和示例

一、概览与类体系 C 提供三种基于内存字符串的流&#xff0c;定义在 <sstream> 中&#xff1a; std::istringstream&#xff1a;输入流&#xff0c;从已有字符串中读取并解析。std::ostringstream&#xff1a;输出流&#xff0c;向内部缓冲区写入内容&#xff0c;最终取…...

编程新知 2025/11/30 11:30:47

微信小程序云开发平台MySQL的连接方式

注&#xff1a;微信小程序云开发平台指的是腾讯云开发 先给结论&#xff1a;微信小程序云开发平台的MySQL&#xff0c;无法通过获取数据库连接信息的方式进行连接&#xff0c;连接只能通过云开发的SDK连接&#xff0c;具体要参考官方文档&#xff1a; 为什么&#xff1f; 因为…...

编程新知 2026/2/1 5:24:17

【JavaSE】绘图与事件入门学习笔记

-Java绘图坐标体系 坐标体系-介绍 坐标原点位于左上角&#xff0c;以像素为单位。 在Java坐标系中,第一个是x坐标,表示当前位置为水平方向&#xff0c;距离坐标原点x个像素;第二个是y坐标&#xff0c;表示当前位置为垂直方向&#xff0c;距离坐标原点y个像素。 坐标体系-像素 …...

编程新知 2025/12/19 20:46:15