AI入门指南(二):算法、训练、模型、大模型是什么?
文章目录
- 一、前言
- 二、算法是什么?
- 概念
- 实际应用
- 三、训练是什么?
- 概念
- 实际应用
- 四、模型是什么?
- 概念
- 实际应用
- 小结
- 五、大模型是什么?
- 概念
- 大模型和小模型有什么区别?
- 大模型分类
- 实际应用
- 六、总结
- 七、参考资料
一、前言
人工智能(AI)已经成为现代科技的热门话题,但对于刚接触这个领域的人来说,其中的一些基本概念可能会感到困惑。本文将带你了解AI的几个关键概念:算法、模型、训练和大模型,并通过生活中的例子和实际应用来深入浅出地解释这些概念。
二、算法是什么?
概念
算法是一系列解决问题的步骤和规则,用于特定问题的解决或任务的完成。它类似于烹饪食谱,提供了从原材料到成品的详细步骤。
例如,程序员初学时接触的‘冒泡排序’、‘快速排序’、‘二分查找法’都是算法的典型例子。
而在AI领域,算法更为复杂和高级,如决策树、线性回归、朴素贝叶斯等。
总的来说,算法是处理数据并找出规律的工具。
实际应用
我们可以通过一个银行客户经理的贷款操作例子来说明算法的实际应用。假设你是一名A银行的客户经理,以下是你总结的贷款申请结果:
姓名 | 拥有工作 | 拥有房产 | 信誉 | 贷款结果 |
---|---|---|---|---|
张三 | 否 | 否 | 一般 | 拒绝 |
李四 | 否 | 否 | 一般 | 拒绝 |
王五 | 是 | 否 | 好 | 批准 |
赵六 | 是 | 是 | 好 | 批准 |
钱七 | 否 | 是 | 一般 | 批准 |
孙八 | 否 | 否 | 一般 | 拒绝 |
周九 | 是 | 否 | 好 | 批准 |
吴十 | 是 | 是 | 好 | 批准 |
郑十一 | 否 | 否 | 非常好 | 批准 |
王十二 | 是 | 是 | 非常好 | 批准 |
冯十三 | 是 | 是 | 非常好 | 批准 |
陈十四 | 是 | 否 | 好 | 批准 |
褚十五 | 是 | 是 | 好 | 批准 |
卫十六 | 否 | 否 | 一般 | 拒绝 |
蒋十七 | 否 | 否 | 一般 | 拒绝 |
可以看出我们通过工作、房产、信誉三个维度来人工决策是否放贷。那么,能否通过算法自动分析并得出贷款决策呢?当然可以,我们可以使用决策树-基尼系数算法:
基尼系数算法用于计算出不同维度的决策权重,数值越小越重要。为了便于理解,我们不展示基尼系数的推导公式,只展示最终结果:
维度 | 基尼系数(数值越小越重要) |
---|---|
拥有工作 | 0.1 |
拥有房产 | 0.19875 |
信誉 | 0.21875 |
根据以上决策占比可以看出工作权重最大,信誉权重最低,我们得到如下决策树结构:
以上便是对算法的讲解部分
三、训练是什么?
概念
训练是将模型和算法结合起来的过程,指使用训练数据反复应用算法进行优化,从而生成最终的模型。
实际应用
我们仍以决策树算法为例,之前我们提供了贷款申请结果表格(15条训练数据)。通过这些数据,我们使用决策树-基尼系数算法,最终生成了一个适用于A银行的贷款决策树。这就是训练的过程。在训练过程中,决策树会不断优化和改进。
例如,如果我们仅用5条数据来训练,如下:
姓名 | 拥有工作 | 拥有房产 | 信誉 | 贷款结果 |
---|---|---|---|---|
张三 | 否 | 否 | 一般 | 拒绝 |
李四 | 否 | 否 | 一般 | 拒绝 |
王五 | 是 | 否 | 好 | 批准 |
赵六 | 是 | 是 | 好 | 批准 |
钱七 | 否 | 是 | 一般 | 批准 |
基于有限的数据,计算出的决策树模型可能如下:拥有房产是最重要的决定因素,其次是信誉和工作。
但通过大量的训练数据不断优化,最终得出了一个更符合实际情况的决策树模型:拥有工作是最重要的决定因素,其次是房产和信誉。
以上便是训练的过程,可以看出,只有基于大量的真实数据,才能得出较好的结果。
四、模型是什么?
概念
模型是由算法在处理大量数据后“学习”到的结果。可以把模型看作是算法在实际数据中的具体应用。
模型是算法在特定场景中的具体实现,是解决特定问题的方法。
实际应用
在前面,我们通过决策树算法和15条数据训练得到了一个可以解决A银行贷款问题的决策树模型,用来决定是否批准贷款。这就是模型在实际场景中的应用。
但是请注意:这个模型只能解决A银行贷款的具体场景。如果换成B银行或C银行,情况就不同了,因为每个银行的贷款审核标准各异。因此,A银行生成的贷款模型不适用于B银行。这体现了模型的特点:模型是算法在特定场景中的具体实现。同一个算法可以根据不同的场景生成不同的模型,但这些模型之间不能互换使用。
再举一个例子:电商推荐。假设电商A平台在推广母婴产品,训练数据如下:
用户ID | 性别 | 拥有子女 | 购买频率 | 推荐结果 |
---|---|---|---|---|
001 | 女 | 是 | 高 | 推荐 |
002 | 男 | 是 | 中 | 推荐 |
003 | 女 | 否 | 低 | 不推荐 |
004 | 女 | 是 | 高 | 推荐 |
005 | 男 | 否 | 中 | 推荐 |
006 | 男 | 否 | 低 | 不推荐 |
007 | 男 | 是 | 高 | 推荐 |
008 | 女 | 是 | 中 | 推荐 |
009 | 女 | 是 | 高 | 推荐 |
010 | 男 | 是 | 低 | 推荐 |
使用基尼系数算法计算各个维度的权重占比,得到如下结果:
维度 | 基尼系数(数值越小越重要) |
---|---|
购买频率 | 0.000 |
拥有子女 | 0.246 |
性别 | 0.445 |
根据这些权重,我们推导出如下的决策树模型:
至此,我们得到了一个电商A平台在推广母婴产品的决策树模型。通过输入用户的特征数据,可以确定是否推荐产品。
以上母婴产品推荐模型和A银行贷款决策模型均只适用于特定场景,不能互换使用,但它们都用到了决策树-基尼系数算法。 这就是模型的特点。
模型是算法落地到实际生活某一个场景的方法论。
小结
算法解为解决某一问题的一系列步骤和规则。
训练是一个过程,通过应用算法来优化模型,使其能够从数据中学习。
模型是训练的结果,它是经过训练过程优化过的,用于进行实际预测或分类的工具。
五、大模型是什么?
概念
上面我们介绍了如何使用决策树算法和数据训练来构建模型。而大模型则通常基于神经网络算法,如卷积神经网络(CNN)、循环神经网络(RNN)和Transformer等。这些模型通过处理极其庞大的数据集,并且需要调整数十亿个参数来优化模型。最终,这些基于神经网络的复杂模型被称为“大模型”。
大模型的设计旨在提升表达能力和预测性能,使其能够处理更复杂的任务和数据。
大模型在许多领域具有广泛应用,包括自然语言处理、计算机视觉、语音识别和推荐系统等。它们通过对海量数据进行训练,学习复杂的模式和特征,从而能够更好地适应新数据,做出准确的预测。
大模型和小模型有什么区别?
小模型通常指参数较少、层数较浅的模型,它们具有轻量级、高效率、易于部署等优点,适用于数据量较小、计算资源有限的场景,例如移动端应用、嵌入式设备、物联网等。
而当模型的训练数据和参数不断扩大,直到达到一定的临界规模后,其表现出了一些未能预测的、更复杂的能力和特性,模型能够从原始训练数据中自动学习并发现新的、更高层次的特征和模式,这种能力被称为“涌现能力”。而具备涌现能力的机器学习模型就被认为是独立意义上的大模型,这也是其和小模型最大意义上的区别。
相比小模型,大模型通常参数较多、层数较深,具有更强的表达能力和更高的准确度,但也需要更多的计算资源和时间来训练和推理,适用于数据量较大、计算资源充足的场景,例如云端计算、高性能计算、人工智能等。
大模型分类
语言大模型(NLP): 是指在自然语言处理(NaturalLanguage Processing,NLP)领域中的一类大模型,通常用于处理文本数据和理解自然语言。这类大模型的主要特点是它们在大规模语料库上进行了训练,以学习自然语言的各种语法、语义和语境规则。例如:GPT系列 (OpenAl) 、Bard (Google) 、文心一言 (百度)
视觉大模型(CV): 是指在计算机视觉(Computer Vision,CV)领中使用的大模型,通常用于图像外理和分析。这类模型通过在大规模图像数据上进行训练,可以实现各种视觉任务,如图像分类、目标检测、图像分割、姿态估计、人脸识别等。例如: VIT系列(Google) 、文心UFO、华为盘古CV、INTERN (商汤)。
多模态大模型: 是指能够处理多种不同类型数据的大模型,例如文本、图像、音频等多模态数据。这类模型结合了NLP和CV的能力,以实现对多模态信息的综合理解和分析,从而能够更全面地理解和处理复杂的数据。例如: DingoDB多模向量数据库(九章云极DataCanvas)、DALL-E(OpenAl)、悟空画画(华为) 、midjourney。
实际应用
OpenAI的GPT-3模型就是一个典型的语言大模型。它拥有1750亿个参数,可以生成高质量的文本,完成语言翻译、问答、写作等任务。GPT-3在客服系统、内容创作、代码生成等多个领域都展现出了强大的能力。
六、总结
本文通过详细的解释和实际例子,帮助初学者理解了人工智能中的四个关键概念:算法、训练、模型和大模型。
算法是解决特定问题的一系列步骤和规则,就像烹饪食谱一样。在AI领域,算法的复杂性和高级性远超其他领域。我们以银行贷款审批为例,展示了决策树算法如何通过分析数据进行决策。
训练是将算法与数据结合的过程,通过反复优化算法,生成最终的模型。在我们的例子中,通过训练决策树算法,我们展示了如何从初始数据到最终模型的优化过程。训练过程中的关键在于使用大量真实数据,这样才能得到一个性能优越的模型。
模型是算法在处理大量数据后“学习”到的结果,是算法应用于特定场景的方法论。模型是为了解决特定问题而设计的,不同场景下需要不同的模型。例如,我们展示了电商平台的商品推荐和银行贷款审批中模型的应用,强调了模型在特定场景中的重要性和独特性。
大模型基于复杂的神经网络算法,如卷积神经网络(CNN)、循环神经网络(RNN)和Transformer等。这些大模型通过处理极其庞大的数据集,并调整数十亿个参数来优化模型,具备更强的表达能力和预测性能。我们提到了语言大模型(如GPT-3)和视觉大模型在实际应用中的广泛应用,展示了它们在自然语言处理、计算机视觉等领域的强大能力。
通过这些概念和实际应用的讲解,本文希望能够为读者提供一个全面的AI基础知识体系,帮助他们理解并掌握AI的基本原理和应用场景。
七、参考资料
- AI入门指南(一):什么是人工智能、机器学习、神经网络、深度学习? - CSDN
- 决策树算法介绍 - Wikipedia
- 机器学习中的训练和测试数据 - Machine Learning Mastery
- OpenAI GPT-3 模型介绍 - OpenAI
- 多模态大模型应用 - ScienceDirect
- 人工智能中的算法和模型 - IBM Cloud Learning
- 神经网络和深度学习 - Deep Learning Book by Ian Goodfellow, Yoshua Bengio, and Aaron Courville
相关文章:

AI入门指南(二):算法、训练、模型、大模型是什么?
文章目录 一、前言二、算法是什么?概念实际应用 三、训练是什么?概念实际应用 四、模型是什么?概念实际应用小结 五、大模型是什么?概念大模型和小模型有什么区别?大模型分类实际应用 六、总结七、参考资料 一、前言 …...
CSS已访问链接的隐私保护
摘抄自:《CSS权威指南 第四版》 有超过十年的时间,已访问的链接可以使用任何可用的CSS属性装饰,与未访问链接没有差别。 然而,大约在2005年,有几个人通过示例揭露,通过视觉样式和简单的DOM脚本就可以判断用…...

代码练习12-排序链表
给你链表的头结点 head ,请将其按 升序 排列并返回 排序后的链表 。 归并排序算法核心步骤 归并排序核心步骤如下: 把长度为n的要排序的序列,分成两个长度为n/2的子序列;对这两个子序列,分别采用归并排序;…...

Linux 内核源码分析---套接字
套接字通信 ISO 设计一种参考模型,定义组成网络的各个层,该模型由7层组成,称为OSI(开放 系统互连)模型如下: 应用层:网络服务与最终用户的接口; 表示层:数据的表示、安…...

vscode配置xdebug断点调试详细教程
注:环境为本地windows开发环境,编辑器为vscode,PHP集成环境工具为EServer vscode安装扩展并配置 安装PHP Debug 扩展中搜索 PHP Debug 并安装: 配置PHP Debug 1、点击扩展设置 2、在设置中,点击 setting.json 3、编…...

【人工智能】Transformers之Pipeline(八):文生图/图生图(text-to-image/image-to-image)
目录 一、引言 二、文生图/图生图(text-to-image/image-to-image) 2.1 文生图 2.2 图生图 2.3 技术原理 2.3.1 Diffusion扩散模型原理 2.3.2 Stable Diffusion扩散模型原理 2.4 文生图实战 2.4.1 SDXL 1.0 2.4.2 SD 2.0 2.5 模型排名 三、总…...

AI Agent 工程师认证-学习笔记(1)——【单Agent】ModelScope-Agent
学习链接: 【单Agent】ModelScope-Agent学习指南https://datawhaler.feishu.cn/wiki/GhOLwvAPkiSWmokjUgqc1eGonDf 手把手Agent开发开源教程(觉得不错的话可以star一下)https://github.com/datawhalechina/agent-tutorial 动手学Agent应用…...
【Python机器学习】树回归——将CART算法用于回归
要对数据的复杂关系建模,可以借用树结构来帮助切分数据,如何实现数据的切分?怎样才能知道是否已经充分切分?这些问题的答案取决于叶节点的建模方式。回归树假设叶节点是常数值,这种策略认为数据中的复杂关系可以用树结…...

前端(HTML + CSS)小兔鲜儿项目(仿)
前言 这是一个简单的商城网站,代码部分为HTML CSS 和少量JS代码 项目总览 一、头部区域 头部的 购物车 和 手机 用的是 文字图标,所以效果可以和文字一样 购物车右上角用的是绝对定位 logo用的是 h1 标签,用来提高网站搜索排名 二、banne…...
【Rust光年纪】构建高效终端用户界面:Rust库全面解析
构建优雅终端应用:深度评析六大Rust库 前言 随着Rust语言的流行和应用场景的不断扩大,对于终端操作和用户界面构建的需求也日益增长。本文将介绍一些在Rust语言中常用的终端操作库和用户界面构建库,以及它们的核心功能、使用场景、安装与配…...
鼠标滑动选中表格部分数据列(vue指令)
文章目录 代码指令代码使用代码 代码 指令代码 // 获得鼠标移动的范围 function getMoveRange(startClientX, endClientX, startClientY, endClientY) {const _startClientX Math.min(startClientX, endClientX);const _endClientX Math.max(startClientX, endClientX);con…...

“5G+Windows”推动全场景数字化升级:美格智能5G智能模组SRM930成功运行Windows 11系统
操作系统作为连接用户与数字世界的桥梁,在数字化迅速发展的时代扮演着至关重要的角色,智能设备与操作系统的协同工作,成为推动现代生活和商业效率的关键力量。其中,Windows系统以其广泛的应用基础和强大的兼容性成为全球最广泛使用…...

c语言学习,isupper()函数分析
1:isupper() 函数说明: 检查参数c,是否为大写英文字母。 2:函数原型: int isupper(int c) 3:函数参数: 参数c,为检测整数 4:返回值: 参数c是大写英文字母&…...

Adnroid 数据存储:SharedPreferences详解【SharedPreferencesUtils,SharedPreferences的ANR】
目录 1)SP是什么、如何使用,SPUtils 2)SP的流程 3)comit和apply 一、SP是什么,如何使用,SPUtils 1.1 SP是什么? SharedPreferences是Android平台提供的一种轻量级的数据存储方式,…...

Sentinel 规则持久化到 Nacos 实战
前言: 前面系列文章我们对 Sentinel 的作用及工作流程源码进行了分析,我们知道 Sentinel 的众多功能都是通过规则配置完成的,但是我们前面在演示的时候,发现 Sentinel 一重启,配置的规则就没有了,这是因为…...

服务器CPU天梯图2024年8月,含EYPC/至强及E3/E5
原文地址(高清无水印原图/持续更新/含榜单出处链接): >>>服务器CPU天梯图<<< 本文提供的服务器CPU天梯图数据均采集自各大专业网站,榜单图片末尾会标准其来源(挂太多链接有概率会被ban,…...

SpringBoot加载dll文件示例
1、将动态库放在resource文件目录下 2、编写相关加载逻辑 import lombok.extern.slf4j.Slf4j; import java.io.File; import java.io.IOException; import java.lang.reflect.Field; import java.util.HashMap;/*** Description: 加载动态库 .dll文件* author: Be.insighted* c…...

9.C基础_指针与数组
数组指针(一维数组) 数组指针就是" 数组的指针 ",它是一个指向数组首地址的指针变量。 1、数组名的含义 对于一维数组,数组名就是一个指针,指向数组的首地址。 基于如下代码进行分析: int a…...

C语言——结构体与共用体
C语言——结构体与共用体 结构体共用体 结构体 如果将复杂的复杂的数据类型组织成一个组合项,在一个组合项中包含若干个类型不同(当然也可以相同)的数据项。 C语言允许用户自己指定这样一种数据结构,它称为结构体。 结构体的语法…...

vs+qt项目转qt creator
1、转换方法 打开vs工程,右键项目,Qt->Create Base .pro File 后面默认OK 如果工程有include和lib路径需要配置,则转换后的工程,需要修改pro文件 2.修改pro文件 例如转换后的工程如下: 修改后 # ------------…...

什么是库存周转?如何用进销存系统提高库存周转率?
你可能听说过这样一句话: “利润不是赚出来的,是管出来的。” 尤其是在制造业、批发零售、电商这类“货堆成山”的行业,很多企业看着销售不错,账上却没钱、利润也不见了,一翻库存才发现: 一堆卖不动的旧货…...
【学习笔记】深入理解Java虚拟机学习笔记——第4章 虚拟机性能监控,故障处理工具
第2章 虚拟机性能监控,故障处理工具 4.1 概述 略 4.2 基础故障处理工具 4.2.1 jps:虚拟机进程状况工具 命令:jps [options] [hostid] 功能:本地虚拟机进程显示进程ID(与ps相同),可同时显示主类&#x…...
Linux离线(zip方式)安装docker
目录 基础信息操作系统信息docker信息 安装实例安装步骤示例 遇到的问题问题1:修改默认工作路径启动失败问题2 找不到对应组 基础信息 操作系统信息 OS版本:CentOS 7 64位 内核版本:3.10.0 相关命令: uname -rcat /etc/os-rele…...
SQL慢可能是触发了ring buffer
简介 最近在进行 postgresql 性能排查的时候,发现 PG 在某一个时间并行执行的 SQL 变得特别慢。最后通过监控监观察到并行发起得时间 buffers_alloc 就急速上升,且低水位伴随在整个慢 SQL,一直是 buferIO 的等待事件,此时也没有其他会话的争抢。SQL 虽然不是高效 SQL ,但…...

云原生安全实战:API网关Kong的鉴权与限流详解
🔥「炎码工坊」技术弹药已装填! 点击关注 → 解锁工业级干货【工具实测|项目避坑|源码燃烧指南】 一、基础概念 1. API网关(API Gateway) API网关是微服务架构中的核心组件,负责统一管理所有API的流量入口。它像一座…...
MySQL 主从同步异常处理
阅读原文:https://www.xiaozaoshu.top/articles/mysql-m-s-update-pk MySQL 做双主,遇到的这个错误: Could not execute Update_rows event on table ... Error_code: 1032是 MySQL 主从复制时的经典错误之一,通常表示ÿ…...
HTML前端开发:JavaScript 获取元素方法详解
作为前端开发者,高效获取 DOM 元素是必备技能。以下是 JS 中核心的获取元素方法,分为两大系列: 一、getElementBy... 系列 传统方法,直接通过 DOM 接口访问,返回动态集合(元素变化会实时更新)。…...

【堆垛策略】设计方法
堆垛策略的设计是积木堆叠系统的核心,直接影响堆叠的稳定性、效率和容错能力。以下是分层次的堆垛策略设计方法,涵盖基础规则、优化算法和容错机制: 1. 基础堆垛规则 (1) 物理稳定性优先 重心原则: 大尺寸/重量积木在下…...

如何把工业通信协议转换成http websocket
1.现状 工业通信协议多数工作在边缘设备上,比如:PLC、IOT盒子等。上层业务系统需要根据不同的工业协议做对应开发,当设备上用的是modbus从站时,采集设备数据需要开发modbus主站;当设备上用的是西门子PN协议时…...
GeoServer发布PostgreSQL图层后WFS查询无主键字段
在使用 GeoServer(版本 2.22.2) 发布 PostgreSQL(PostGIS)中的表为地图服务时,常常会遇到一个小问题: WFS 查询中,主键字段(如 id)莫名其妙地消失了! 即使你在…...