当前位置： 首页 > news >正文

GPT系列概述

news 2026/5/13 21:12:27

OPENAI做的东西

Openai老窝在爱荷华州，微软投资的数据中心

万物皆可GPT下咱们要失业了？

但是世界不仅仅是GPT

GPT其实也只是冰山一角，2022年每4天就有一个大型模型问世

GPT历史时刻

GPT-1

带回到2018年的NLP

所有下游任务都需要微调（再训练）

GPT-2

以不变应万变，需要注意的GPT-2中提示是不在训练中的

Temperature

温度的选择还是要根据实际情况来

温度越低，就希望以准确性为第一要务；

温度越高，就注重多样性选择，但准确性就降低了(对应GPT来说就有可能胡说八道了)

Top k与Top p

GPT-3

关键：让模型理解暗示的是什么东西

咱们面向百度编程，它面向人类编程

就是说GPT-3训练的数据包罗万象，上通天文下知地理

3种核心的下游任务方式

其实就是输入例子有几个，打个样

zero-shot

上面的回答我们是没有事先给出参考答案的。

one-shot

GPT回答是：打老板

few-shot

会给出多个例子

例1：

结果：

例2：

3种方式的对比

这三种方式都没有更新模型，相对来说肯定few的效果好一些；

但由于few-shot中模型是没有记住例子的能力的，所以每次提问的时候都需要给出这几个例子，但是问题就是API更贵了，输入序列长度更长了

网络结构

网络结构没啥特别的，就是transformer，但是3.2M的batch有点辣眼睛

CODEX

OpenAI Codex

GPT有点像多领域都涉及，但都不是涉及得很深；而现在很多模型都聚焦于自己擅长的领域，比如说CODEX，用于代码生成。

这其实在告诉我们一件事，GPT可以个性化设置。

Evaluating Large Language Models Trained on Code

用GPT-3模型重新训练（注意不是微调，而是输入数据换成github上爬的数据，都是代码的数据）

我总说面向GITHUB编程，GPT-3这回真把这个事干了

训练数据就是GITHUB，相当于把文档注释和代码结合到一起

输入注释或者文档，来预测代码如何实现，即要面向github编程了

相关文章：

GPT系列概述

OPENAI做的东西 Openai老窝在爱荷华州，微软投资的数据中心 万物皆可GPT下咱们要失业了？ 但是世界不仅仅是GPT GPT其实也只是冰山一角，2022年每4天就有一个大型模型问世 GPT历史时刻 GPT-1 带回到2018年的NLP 所有下游任务都需要微调&#x…...

编程日记 2023/12/30 17:40:08

基于遗传算法的集装箱吊装优化，基于遗传算法的集装箱装卸优化

目录 背影 遗传算法的原理及步骤 基本定义 编码方式 适应度函数 运算过程 代码 结果分析 完整代码下载： 基于遗传算法的集装箱吊装优化，基于遗传算法的集装箱装卸优化（代码完整，数据齐全）资源-CSDN文库 https://download.csdn.net/download/abc991835105/88674652 背影 …...

编程日记 2023/12/30 17:35:03

postgreSQL单机部署

一、环境准备 架构操作系统IP主机名PG版本端口磁盘空间内存CPUsingle 单机centos7192.168.1.10pgserver01PostgreSQL 14.7543350G4G2 1、官网下载源码包 https://www.postgresql.org/download/2、操作系统参数修改 2.1 sysctl.conf配置 vi /etc/sysctl.conf kernel.sysrq …...

编程日记 2023/12/30 17:33:00

思维逻辑题3

题目1： 如果所有A都是B，且某个对象是B，那么它一定是A吗？ 答案：不一定，尽管所有A都是B，但还有其他的对象可能也是B。 题目2： 如果A和B都是真，那么以下哪个选项是真&…...

编程日记 2023/12/30 17:28:56

强大的音乐乐谱控件库

2023 Conmajia, 2018 Ajcek84 SN: 23C.1 本中文翻译已获原作者首肯。 简介 PSAM 控件库——波兰音乐文档系统——是用于显示、排版乐谱的强大 WinForm 库，包含用于绘制乐谱的名为 IncipitViewer 控件，乐谱内容可以从 MusicXml 文件读取，或者…...

编程日记 2023/12/30 17:27:55

数据库——简单查询复杂查询

1.实验内容及原理 1. 在 Windows 系统中安装 VMWare 虚拟机，在 VMWare 中安装 Ubuntu 系统,并在 Ubuntu 中搭建 LAMP 实验环境。 2. 使用 MySQL 进行一些基本操作： （1）登录 MySQL，在 MySQL 中创建用户，…...

编程日记 2023/12/30 17:25:53

java虚拟机内存管理

文章目录 概要一、jdk7与jdk8内存结构的差异二、程序计数器三、虚拟机栈3.1 什么是虚拟机栈3.2 什么是栈帧3.3 栈帧的组成 四、本地方法栈五、堆5.1 堆的特点5.2 堆的结构5.3 堆的参数配置 六、方法区6.1 方法区结构6.2 运行时常量池 七、元空间 概要 根据 JVM 规范&#xff0…...

编程日记 2023/12/30 17:18:48

Hive实战：词频统计

文章目录 一、实战概述二、提出任务三、完成任务（一）准备数据文件1、在虚拟机上创建文本文件2、将文本文件上传到HDFS指定目录 （二）实现步骤1、启动Hive Metastore服务2、启动Hive客户端3、基于HDFS文件创建外部表4、查询单词表&a…...

编程日记 2023/12/30 17:16:45

FairyGUI-Cocos Creator官方Demo源码解读

博主在学习Cocos Creator的时候，发现了一款免费的UI编辑器FairyGUI。这款编辑器的能力十分强大，但是网上的学习资源比较少，坑比较多，主要学习方式就是阅读官方文档和练习官方Demo。这里博主进行官方Demo的解读。 从gitee上克隆项目…...

编程日记 2023/12/30 17:10:40

LabVIEW利用视觉引导机开发器人精准抓取

LabVIEW利用视觉引导机开发器人精准抓取 本项目利用单目视觉技术指导多关节机器人精确抓取三维物体的技术。通过改进传统的相机标定方法，结合LabVIEW平台的Vision Development和Vision Builder forAutomated Inspection组件，优化了摄像系统的标定过程&a…...

编程日记 2023/12/30 17:08:38

【Linux】指令(本人使用比较少的)——笔记(持续更新)

文章目录 ps -axj：查看进程ps -aL：查看线程echo $?：查看最近程序的退出码jobs：查看后台运行的线程组fd 任务号：将后台任务提到前台bg 任务号：将暂停的后台程序重启netstat -nltp：查看服务及监听…...

编程日记 2023/12/30 17:05:36

032 - STM32学习笔记 - TIM基本定时器（一） - 定时器基本知识

032 - STM32学习笔记 - TIM定时器（一） - 基本定时器知识 这节开始学习一下TIM定时器功能，从字面意思上理解，定时器的基本功能就是用来定时，与定时器相结合，可以实现一些周期性的数据发送、采集等功能&#…...

编程日记 2023/12/30 17:03:34

轮廓检测与处理

轮廓检测 先将图像转换成二值 gray cv2.cvtColor(img, cv2.COLOR_BGR2GRAY) # 灰度图 ret, thresh cv2.threshold(gray, 127, 255, cv2.THRESH_BINARY) # 变为二值，大于127置为255，小于100置为0.使用cv2.findContours(thresh, cv2.RETR_TREE, cv2.…...

编程日记 2023/12/30 16:59:30

跟着LearnOpenGL学习11--材质

文章目录 一、材质二、设置材质三、光的属性四、不同的光源颜色 一、材质 在现实世界里，每个物体会对光产生不同的反应。 比如，钢制物体看起来通常会比陶土花瓶更闪闪发光，一个木头箱子也不会与一个钢制箱子反射同样程度的光。 有些物体反…...

编程日记 2023/12/30 16:57:28

Java guava partition方法拆分集合自定义集合拆分方法

日常开发中&#xff0c;经常遇到拆分集合处理的场景&#xff0c;现在记录2中拆分集合的方法。 1. 使用Guava包提供的集合操作工具栏 Lists.partition()方法拆分 首先&#xff0c;引入maven依赖 <dependency><groupId>com.google.guava</groupId><artifa…...

编程日记 2023/12/30 16:56:27

GLTF编辑器-位移贴图实现破碎的路面

在线工具推荐&#xff1a; 3D数字孪生场景编辑器 - GLTF/GLB材质纹理编辑器 - 3D模型在线转换 - Three.js AI自动纹理开发包 - YOLO 虚幻合成数据生成器 - 三维模型预览图生成器 - 3D模型语义搜索引擎 位移贴图是一种可以用于增加模型细节和形状的贴图。它能够在渲染时针…...

编程日记 2023/12/30 16:54:25

多维时序 | MATLAB实现SSA-BiLSTM麻雀算法优化双向长短期记忆神经网络多变量时间序列预测

多维时序 | MATLAB实现SSA-BiLSTM麻雀算法优化双向长短期记忆神经网络多变量时间序列预测 目录 多维时序 | MATLAB实现SSA-BiLSTM麻雀算法优化双向长短期记忆神经网络多变量时间序列预测预测效果基本介绍程序设计参考资料 预测效果 基本介绍 1.MATLAB实现SSA-BiLSTM麻雀算法优化…...

编程日记 2023/12/30 16:49:21

docker安装Nacos和Rabbitmq

一、安装Nacos 首先需要拉取对应的镜像文件&#xff1a;&#xff08;切换版本加上对应版本号即可&#xff0c;默认最新版&#xff09; docker pull nacos/nacos-server 接着挂载目录&#xff1a; mkdir -p /mydata/nacos/logs/ #新建logs目录 mkdir -p …...

编程日记 2023/12/30 16:43:17

Android MVC 写法

前言 Model&#xff1a;负责数据逻辑 View&#xff1a;负责视图逻辑 Controller&#xff1a;负责业务逻辑 持有关系&#xff1a; 1、View 持有 Controller 2、Controller 持有 Model 3、Model 持有 View 辅助工具&#xff1a;ViewBinding 执行流程&#xff1a;View >…...

编程日记 2023/12/30 16:41:15

网络层解读

基本介绍 概述 当两台主机之间的距离较远(如相隔几十或几百公里&#xff0c;甚至几千公里)时&#xff0c;就需要另一种结构的网络&#xff0c;即广域网。广域网尚无严格的定义。通常是指覆盖范围很广(远超过一个城市的范围)的长距离的单个网络。它由一些结点交换机以及连接这些…...

编程日记 2023/12/30 16:38:12

安全生产隐患识别太难？实测实在Agent：AI模型语义分析能力测评详解与信创落地指南

摘要&#xff1a; 步入2026年&#xff0c;安全生产已进入“全量数字化”与“法制化”深度融合的高压期。随着《安全生产法》的持续深化执行&#xff0c;企业面临着海量隐患识别、跨系统数据流转及信创环境适配的三重挑战。传统的人工排查与基于API的自动化手段&#xff0c;在面…...

编程新知 2026/5/13 20:58:08

从`find -mtime`到`find -newermt`：Linux文件时间查找的进阶玩法与避坑指南

从find -mtime到find -newermt&#xff1a;Linux文件时间查找的进阶玩法与避坑指南 在Linux系统管理中&#xff0c;文件查找是开发者和运维工程师的日常高频操作。当我们需要追踪最近修改的配置文件、清理过期日志或备份特定时间段的文档时&#xff0c;find命令的时间参数便成为…...

编程新知 2026/5/13 20:56:06

PCL2启动器游戏启动失败的终极解决方案：3步快速修复指南

PCL2启动器游戏启动失败的终极解决方案&#xff1a;3步快速修复指南 【免费下载链接】PCL Minecraft 启动器 Plain Craft Launcher&#xff08;PCL&#xff09;。 项目地址: https://gitcode.com/gh_mirrors/pc/PCL Plain Craft Launcher 2&#xff08;PCL2&#xff09;…...

编程新知 2026/5/13 18:58:28

如何零安装体验Windows 12：网页版模拟器完整指南

如何零安装体验Windows 12&#xff1a;网页版模拟器完整指南 【免费下载链接】win12 Windows 12 网页版&#xff0c;在线体验 点击下面的链接在线体验 项目地址: https://gitcode.com/gh_mirrors/wi/win12 你是否想在浏览器中直接运行Windows系统&#xff1f;无需下载任…...

编程新知 2026/5/13 17:36:30

MATLAB程序打包成exe后，发给没有MATLAB的同事/客户怎么用？完整部署指南

MATLAB程序打包成EXE后的完整部署指南&#xff1a;让无MATLAB环境的用户也能顺畅运行 当你花费数周时间在MATLAB中打磨出一个完美的算法工具&#xff0c;最终通过mcc命令将其打包成.exe文件时&#xff0c;那种成就感无与伦比。但现实往往给你当头一棒——同事或客户双击这个exe…...

编程新知 2026/5/13 17:32:06

对比不同模型在Taotoken平台上的响应速度与输出质量体感

&#x1f680; 告别海外账号与网络限制&#xff01;稳定直连全球优质大模型&#xff0c;限时半价接入中。 &#x1f449; 点击领取海量免费额度 对比不同模型在Taotoken平台上的响应速度与输出质量体感 在开发与创作过程中&#xff0c;我们常常面临一个选择&#xff1a;是追求…...

编程新知 2026/5/13 16:53:54

多目标跟踪（Multi-Object Tracking, MOT）中的核心算法介绍：卡尔曼滤波算法和匈牙利算法

卡尔曼滤波算法和匈牙利算法两者都是多目标跟踪&#xff08;Multi-Object Tracking, MOT&#xff09;中的核心算法&#xff0c;但解决的是完全不同的问题。简单来说&#xff1a; 卡尔曼滤波&#xff1a;负责“预测未来”和“修正当前”。它帮你推测目标下一刻会出现在哪里。匈…...

编程新知 2026/5/13 16:45:07

OpenAEON：从AI Agent到自主认知引擎的架构解析与实战

1. 项目概述&#xff1a;从“智能助手”到“自主认知引擎”的跃迁 如果你和我一样&#xff0c;在AI Agent领域摸爬滚打了几年&#xff0c;从早期的简单聊天机器人框架&#xff0c;到后来的工具调用&#xff08;Function Calling&#xff09;和RAG&#xff08;检索增强生成&…...

编程新知 2026/5/13 15:57:09

苹果为何拒绝TD-SCDMA特供版iPhone？复盘技术标准与市场时机的战略博弈

1. 项目概述&#xff1a;一场关于苹果与中国移动的世纪猜想2012年的科技圈&#xff0c;空气中弥漫着一股躁动与期待。几乎所有的行业分析师和手机发烧友都在讨论同一个话题&#xff1a;苹果公司是否会为了全球最大的移动运营商——中国移动&#xff0c;专门推出一款支持TD-SCDM…...

编程新知 2026/5/13 14:30:39

GraphQL在后端开发中的应用与优势

在现代后端开发领域&#xff0c;GraphQL作为一种新兴的API查询语言&#xff0c;正迅速改变着开发者构建和交互数据的方式。与传统的RESTful API相比&#xff0c;GraphQL提供了一种更灵活、高效的数据获取机制&#xff0c;使前端能够精准地请求所需数据&#xff0c;避免了过度获…...

编程新知 2026/5/13 14:12:30