当前位置: 首页 > news >正文

关于大模型在产品开发中所面临的问题,利用大模型技术解决很简单!

具体问题具体分析,大模型技术没有统一的解决方案

有人说2024年是大模型应用的元年,而大模型在未来的发展潜力毋庸置疑,这也就意味着人工智能技术是下一个风口,因此各种各样基于大模型技术的创业公司如雨后春笋般涌现。

从应用的角度来说,大模型的主要应用有以下几个方向Agent,AIGC,聊天机器人等,严格来说聊天机器人应该属于基于大模型知识库的问答系统。

而随着多模态大模型的出现,大模型的应用场景变得更加丰富与强大,但这并不意味着基于大模型的产品就完美无缺,反而是问题多多。

大模型应用在不同方向所面临的问题

下面从应用的角度介绍一下大模型在各个应用方向上所面临的问题——AIGC, Agent,聊天机器人(知识库)

AIGC

AIGC是大模型应用的主要方向之一,所谓的AIGC就是AI生成内容,在AIGC之前还有PGC——专业生成内容和UGC——用户生成内容。

简单来说就是利用生成式AI的能力来生成文字,图像和视频等,替代或辅助人类进行创作。

当然,文字,图像,视频等只是AIGC应用的一个方向,其它还包括文档总结,视频总结,PPT,WORD处理,文生图,语音处理,数字人,人物仿真等多个细分方向。

图片

但对大部分创业公司来说,他们无力承担开发训练和微调模型的成本,因此他们只能选择第三方大模型来构建业务系统。但问题是,第三方模型虽然经过大量的数据训练,但其在具体领域并没有进行特定的微调或训练,因此它生成的内容质量就成了一个很大的问题。

举例来说,某公司正在做一个文生图或视频的AIGC工具,使用的是第三方大模型。这个模型经过大量的数据训练,并且经过精心的微调,在大部分场景之下表现的都不错。

但问题是,如果应用到某些细分领域内,比如说现如今传统文化兴起,大量自媒体创作者使用AI生成一些古风的视频;可能这个大模型能够满足这种大众化的需求,但如果你的需求是生成一个小蝌蚪找妈妈的视频可能就没那么好了。

原因是什么?

大模型就像一个人,每个人都有其擅长的领域,比如齐白石擅长画虾,徐悲鸿擅长画马,虽然他们都是从事的绘画领域,但每个人擅长的点不一样,大模型也是如此。

图片

因此,不论是在文本,图像,视频亦或者在其它AIGC领域,通用大模型都很难有良好的表现。

而如果想让大模型在某个方面表现的更好,那么就需要对大模型进行针对性训练,也就是微调;亦或者根据不同的场景开发一款新的大模型。

但这对很多公司是不现实的,不论是从成本上,还是从技术上,都很难做到。

想要解决这种问题,应该怎么办?

最好的方式就是把自己的业务限定在某个领域下的某个或某几个场景,而不是到处撒网,什么都想做。

Agent

智能体可以说是大模型技术的又一个主要应用方向,其主要技术就是通过大模型的自主规划能力,去自己分析问题,规划方案,然后调用外部工具完成任务。

举个例子,你是一个导游,你每天都需要发展新的游客,设计旅行方案,预订景点门票,住宿,饮食等。

如果使用Agent,你只需要告诉大模型我要做什么,大模型就能够帮你自动完成。比如让大模型帮你制定一份发展新游客,以及设计不同的旅行方案,同时还要考虑天气,路线等问题;并且,能够根据每个路线中的地点,制定详细的行程,以及安排好住宿与饮食等问题。

图片

这就是Agent的作用,通过大模型自身的规划能力,通过提示词和思维链等技术,来自动分析问题,并解决问题。

但目前来说Agent技术还不够成熟,原因就是大模型的推理与分析能力还不够强大;比如你让它帮你制定一份旅行计划,它制定的计划,可能是早上还在成都看熊猫,下午就要直接去云南看洱海,晚上住在北京王府井。

而正常的形成应该是早上去熊猫基地看熊猫,中午在附近吃点饭,下午回到市区,晚上逛一下锦里和宽窄巷子,然后住在武侯祠附近的酒店,这才是一个有可能完成的旅行计划。

目前Agent的发展趋势主要是,通过大模型的推理能力,以及外部工具,使用工作流的方式把它们整合成一个能够完成特定任务的Agent;然后使用多个不同功能的Agent来共同完成一个更加复杂的任务。

比如说字节的coze 扣子Agent平台。

因此,对Agent的应用来说,提升大模型的推理和规划能力才是重中之重,如果无法解决这个问题,那么Agent就很难能够发展。

知识库

知识库技术,严格来说即属于大模型的一个应用方向,也属于对大模型能力缺陷的一种补偿。

我们知道,大模型天生就知识短缺,因为它不会主动学习,因为它的知识永远都停止在之前的某一个节点,除非你对它重新进行训练或微调,否则大模型就一直是什么样。

还有一点就是,大模型的训练数据是有限的,其次就是过多的数据可能会导致过拟合问题;因此,大模型在某些领域表现并不怎么好,而这也是知识短缺的一种体现。

因此,知识库的作用就出现了,知识库是对大模型知识短缺的一个补偿;通过构建一个外部知识库,让大模型每次回答问题之前,都先去知识库里查询一下相关的资料,这样就能够做到有的放矢了。

而且,大模型一个非常严重的问题——幻觉问题,也可以通过知识库的方式得到优化,减缓幻觉出现的概率。虽然,幻觉问题不知道是否能够真正解决。

图片

而知识库同样面临着很多问题,知识库的难点主要不在大模型,而是在知识库的建设。

比如说,大量的资料数据怎么存储,存储完成之后怎么检索,怎么提升检索的效率与准确度;不同格式的资料数据怎么统一处理,怎么加载,怎么分析等等。

比如说,四大名著之《西游记》作为一本名著,如果把它加入到知识库中,然后用户想询问一些关于孙悟空的问题;怎么才能从《西游记》这本书中检索出相关性最高的内容。

比如说,孙猴子,孙悟空,齐天大圣,弼马温,泼猴,老孙等等都是和孙悟空相关的内容;那么用户输入其中的一种或几种,知识库是否能检索出相关度最高的内容。比如说是打白骨精,还是当弼马温,或者女儿国等等。

这就是知识库所技术所面临的问题,也是RAG(检索增强生成)技术需要考虑解决的问题。

总之,大模型的应用还处于探索阶段,大家都是摸着石头过河,而且在不同的应用领域所面临的问题还不一样;比如说AIGC领域主要是提高大模型的输出内容,解决方案就是训练和微调;而Agent领域需要解决的是大模型的推理和规划能力;而知识库系统需要解决的却是知识的存储与检索问题。

而无论个人或企业最多能做好其中的一点或两点,很难有人能同时解决这三个问题。

这就是大模型的应用,以及所面临的问题和解决方案。

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

相关文章:

关于大模型在产品开发中所面临的问题,利用大模型技术解决很简单!

“ 具体问题具体分析,大模型技术没有统一的解决方案 ” 有人说2024年是大模型应用的元年,而大模型在未来的发展潜力毋庸置疑,这也就意味着人工智能技术是下一个风口,因此各种各样基于大模型技术的创业公司如雨后春笋般涌现。 从…...

SpringBoot2:请求处理原理分析-利用内容协商功能实现接口的两种数据格式(JSON、XML)

文章目录 一、功能说明二、案例实现1、基于请求头实现2、基于请求参数实现 一、功能说明 我们知道,用ResponseBody注解标注的接口,默认返回给页面的是json数据。 其实,也可以返回xml结构的数据给页面。 这一篇就来实现一下这个小功能。 二、…...

BUUCTF 之Basic 1(BUU LFI COURSE 1)

1、启动靶场,会生成一个URL地址,打开给的URL地址,会看到一个如下界面 可以看到是一个PHP文件,非常的简单,就几行代码,判断一下是否有一个GET的参数,并且是file名字,如果是并且加载&a…...

Android 蓝牙三方和动态权限三方

记录一下最近用到的简单的框架 蓝牙 FastBle:Android BLE通信库的介绍与高级用法 - 简书 https://github.com/Jasonchenlijian/FastBle 动态权限: GitHub - googlesamples/easypermissions: Simplify Android M system permissions 位置权限举例,arrayOf中多个…...

点餐|基于java的电子点餐系统小程序(源码+数据库+文档)

电子点餐系统|小程序|在线点餐 目录 基于java的电子点餐系统小程序 一、前言 二、系统设计 三、系统功能设计 系统功能实现 前台: 后台: 四、数据库设计 五、核心代码 六、论文参考 七、最新计算机毕设选题推荐 八、源码获取: …...

18、Gemini-Pentest-v1

难度 中 (个人认为是高) 目标 root权限 一个flag 靶机启动环境为VMware kali 192.168.152.56 靶机 192.168.152.64 信息收集 突破点大概就是web端了 web测试 访问主页直接就是目录遍历 不过进去后是一个正常的网页 简单的试了几个弱口令无果继续信息…...

MIT6.824 课程-MapReduce

MapReduce:在大型集群上简化数据处理 概要 MapReduce是一种编程模型,它是一种用于处理和生成大型数据集的实现。用户通过指定一个用来处理键值对(Key/Value)的map函数来生成一个中间键值对集合。然后,再指定一个reduce函数, 它用…...

7个 C# 高阶用法详解:从基础到实战

C# 高阶用法详解:从基础到实战 在实际开发中,C# 提供了很多高级特性和设计模式,帮助我们写出更加简洁、灵活和高效的代码。本篇将深入探讨 C# 中的高阶用法,通过丰富的示例,带你掌握这些工具的精髓。 1. LINQ&#x…...

[数据集][目标检测]乱堆物料检测数据集VOC+YOLO格式1143张1类别

数据集格式:Pascal VOC格式YOLO格式(不包含分割路径的txt文件,仅仅包含jpg图片以及对应的VOC格式xml文件和yolo格式txt文件) 图片数量(jpg文件个数):1143 标注数量(xml文件个数):1143 标注数量(txt文件个数):1143 标注…...

【SQL】百题计划:SQL对于空值的比较判断。

[SQL]百题计划 方法&#xff1a; 使用 <> (!) 和 IS NULL [Accepted] 想法 有的人也许会非常直观地想到如下解法。 SELECT name FROM customer WHERE referee_Id <> 2;然而&#xff0c;这个查询只会返回一个结果&#xff1a;Zach&#xff0c;尽管事实上有 4 个…...

OJ在线判题系统项目笔记

项目介绍 在线评测编程题目代码的系统&#xff0c;出题人预先设置题目的输入样例和输出样例&#xff0c;根据用户提交代码&#xff0c;进行编译代码&#xff0c;运行代码&#xff0c;判断代码执行结果是否正确。 后端服务 网关服务 接收前端请求&#xff0c;转发到对应的服…...

期望极大算法(Expectation Maximization Algorithm,EM)

定义 输入:观测变量数据Y,隐变量数据Z,联合分布P(Y,Z| θ \theta θ),条件分布PP(Z,Y| θ \theta θ); 输出:模型参数 θ \theta θ (1)选择参数的初值 θ ( 0 ) , 开始迭代 ; \theta^{(0)},开始迭代; θ(0),开始迭代; (2)E步:记 θ ( i ) 为第 i 次迭代参数 \theta^{(i)}为第…...

初级练习[4]:多表查询——表联结

目录 多表查询:表联结示例 查询有两门以上的课程不及格的同学的学号及其平均成绩 查询所有学生的学号、姓名、选课数、总成绩 查询平均成绩大于85的所有学生的学号、姓名和平均成绩 查询学生的选课情况:学号,姓名,课程号,课程名称 查询出每门课程的及格人数和不及格人数 …...

基于JAVA+SpringBoot+Vue的中药实验管理系统

基于JAVASpringBootVue的中药实验管理系统 前言 ✌全网粉丝20W,csdn特邀作者、博客专家、CSDN[新星计划]导师、java领域优质创作者,博客之星、掘金/华为云/阿里云/InfoQ等平台优质作者、专注于Java技术领域和毕业项目实战✌ &#x1f345;文末附源码下载链接&#x1f345; 哈…...

移动硬盘读取出错结构损坏?数据恢复实战指南

移动硬盘困境&#xff1a;读取出错与结构损坏 在日常的数据存储与传输中&#xff0c;移动硬盘以其大容量、便携性成为了众多用户的首选。然而&#xff0c;当移动硬盘遭遇读取出错或结构损坏的困境时&#xff0c;那些珍贵的文件、照片、视频等数据便岌岌可危&#xff0c;让人心…...

Web安全之HTTPS调用详解和证书说明案例示范

随着互联网的高速发展&#xff0c;网络安全成为了一个不可忽视的话题&#xff0c;特别是在涉及用户敏感信息的业务系统中。在此背景下&#xff0c;使用HTTPS取代HTTP成为了大势所趋。本文将以电商交易系统为例&#xff0c;详细介绍HTTPS的重要性&#xff0c;并探讨如何通过HTTP…...

man命令学习记录

使用man来查看命令的用法 man ls 想了解Linux命令的用法假设你想查ls命令的更多信息&#xff0c;输入man ls&#xff0c;就会打开man page&#xff08;man是manual的缩写&#xff0c;因此man page就是“手册页面”&#xff09;&#xff0c;显示关于ls命令各个方面的信息。 通常…...

Linux三剑客-grep

grep介绍 全拼&#xff1a; Global search REgular expression and Print out line. 作用&#xff1a; 文本搜索工具&#xff0c;根据用户指定的“模式&#xff08;过滤条件&#xff09;”对目标文本逐行进行匹配检查&#xff0c;打印匹配到的行。 模式&#xff1a; 有正则表达…...

备忘录模式memento

学习笔记&#xff0c;原文链接 https://refactoringguru.cn/design-patterns/memento 允许生成对象状态的快照并在以后将其还原。备忘录不会影响它所处理的对象的内部结构&#xff0c; 也不会影响快照中保存的数据。...

5-【JavaWeb】JUnit 单元测试及JUL 日志系统

1. 使用 JUnit 进行单元测试 JUnit 是 Java 中非常流行的单元测试框架&#xff0c;MyBatis 与 JUnit 可以很好地结合&#xff0c;来测试持久层代码的正确性。 1.1 添加 JUnit 依赖 在使用 JUnit 之前&#xff0c;需要在 pom.xml 中引入 JUnit 依赖。 <dependency><…...

UE5 学习系列(二)用户操作界面及介绍

这篇博客是 UE5 学习系列博客的第二篇&#xff0c;在第一篇的基础上展开这篇内容。博客参考的 B 站视频资料和第一篇的链接如下&#xff1a; 【Note】&#xff1a;如果你已经完成安装等操作&#xff0c;可以只执行第一篇博客中 2. 新建一个空白游戏项目 章节操作&#xff0c;重…...

【人工智能】神经网络的优化器optimizer(二):Adagrad自适应学习率优化器

一.自适应梯度算法Adagrad概述 Adagrad&#xff08;Adaptive Gradient Algorithm&#xff09;是一种自适应学习率的优化算法&#xff0c;由Duchi等人在2011年提出。其核心思想是针对不同参数自动调整学习率&#xff0c;适合处理稀疏数据和不同参数梯度差异较大的场景。Adagrad通…...

跨链模式:多链互操作架构与性能扩展方案

跨链模式&#xff1a;多链互操作架构与性能扩展方案 ——构建下一代区块链互联网的技术基石 一、跨链架构的核心范式演进 1. 分层协议栈&#xff1a;模块化解耦设计 现代跨链系统采用分层协议栈实现灵活扩展&#xff08;H2Cross架构&#xff09;&#xff1a; 适配层&#xf…...

鱼香ros docker配置镜像报错:https://registry-1.docker.io/v2/

使用鱼香ros一件安装docker时的https://registry-1.docker.io/v2/问题 一键安装指令 wget http://fishros.com/install -O fishros && . fishros出现问题&#xff1a;docker pull 失败 网络不同&#xff0c;需要使用镜像源 按照如下步骤操作 sudo vi /etc/docker/dae…...

MinIO Docker 部署:仅开放一个端口

MinIO Docker 部署:仅开放一个端口 在实际的服务器部署中,出于安全和管理的考虑,我们可能只能开放一个端口。MinIO 是一个高性能的对象存储服务,支持 Docker 部署,但默认情况下它需要两个端口:一个是 API 端口(用于存储和访问数据),另一个是控制台端口(用于管理界面…...

论文阅读:LLM4Drive: A Survey of Large Language Models for Autonomous Driving

地址&#xff1a;LLM4Drive: A Survey of Large Language Models for Autonomous Driving 摘要翻译 自动驾驶技术作为推动交通和城市出行变革的催化剂&#xff0c;正从基于规则的系统向数据驱动策略转变。传统的模块化系统受限于级联模块间的累积误差和缺乏灵活性的预设规则。…...

二维FDTD算法仿真

二维FDTD算法仿真&#xff0c;并带完全匹配层&#xff0c;输入波形为高斯波、平面波 FDTD_二维/FDTD.zip , 6075 FDTD_二维/FDTD_31.m , 1029 FDTD_二维/FDTD_32.m , 2806 FDTD_二维/FDTD_33.m , 3782 FDTD_二维/FDTD_34.m , 4182 FDTD_二维/FDTD_35.m , 4793...

鸿蒙HarmonyOS 5军旗小游戏实现指南

1. 项目概述 本军旗小游戏基于鸿蒙HarmonyOS 5开发&#xff0c;采用DevEco Studio实现&#xff0c;包含完整的游戏逻辑和UI界面。 2. 项目结构 /src/main/java/com/example/militarychess/├── MainAbilitySlice.java // 主界面├── GameView.java // 游戏核…...

轻量级Docker管理工具Docker Switchboard

简介 什么是 Docker Switchboard &#xff1f; Docker Switchboard 是一个轻量级的 Web 应用程序&#xff0c;用于管理 Docker 容器。它提供了一个干净、用户友好的界面来启动、停止和监控主机上运行的容器&#xff0c;使其成为本地开发、家庭实验室或小型服务器设置的理想选择…...

k8s从入门到放弃之Pod的容器探针检测

k8s从入门到放弃之Pod的容器探针检测 在Kubernetes&#xff08;简称K8s&#xff09;中&#xff0c;容器探测是指kubelet对容器执行定期诊断的过程&#xff0c;以确保容器中的应用程序处于预期的状态。这些探测是保障应用健康和高可用性的重要机制。Kubernetes提供了两种种类型…...