当前位置： 首页 > news >正文

GPT系列概述

news 2026/2/3 3:29:34

OPENAI做的东西

Openai老窝在爱荷华州，微软投资的数据中心

万物皆可GPT下咱们要失业了？

但是世界不仅仅是GPT

GPT其实也只是冰山一角，2022年每4天就有一个大型模型问世

GPT历史时刻

GPT-1

带回到2018年的NLP

所有下游任务都需要微调（再训练）

GPT-2

以不变应万变，需要注意的GPT-2中提示是不在训练中的

Temperature

温度的选择还是要根据实际情况来

温度越低，就希望以准确性为第一要务；

温度越高，就注重多样性选择，但准确性就降低了(对应GPT来说就有可能胡说八道了)

Top k与Top p

GPT-3

关键：让模型理解暗示的是什么东西

咱们面向百度编程，它面向人类编程

就是说GPT-3训练的数据包罗万象，上通天文下知地理

3种核心的下游任务方式

其实就是输入例子有几个，打个样

zero-shot

上面的回答我们是没有事先给出参考答案的。

one-shot

GPT回答是：打老板

few-shot

会给出多个例子

例1：

结果：

例2：

3种方式的对比

这三种方式都没有更新模型，相对来说肯定few的效果好一些；

但由于few-shot中模型是没有记住例子的能力的，所以每次提问的时候都需要给出这几个例子，但是问题就是API更贵了，输入序列长度更长了

网络结构

网络结构没啥特别的，就是transformer，但是3.2M的batch有点辣眼睛

CODEX

OpenAI Codex

GPT有点像多领域都涉及，但都不是涉及得很深；而现在很多模型都聚焦于自己擅长的领域，比如说CODEX，用于代码生成。

这其实在告诉我们一件事，GPT可以个性化设置。

Evaluating Large Language Models Trained on Code

用GPT-3模型重新训练（注意不是微调，而是输入数据换成github上爬的数据，都是代码的数据）

我总说面向GITHUB编程，GPT-3这回真把这个事干了

训练数据就是GITHUB，相当于把文档注释和代码结合到一起

输入注释或者文档，来预测代码如何实现，即要面向github编程了

相关文章：

GPT系列概述

OPENAI做的东西 Openai老窝在爱荷华州，微软投资的数据中心 万物皆可GPT下咱们要失业了？ 但是世界不仅仅是GPT GPT其实也只是冰山一角，2022年每4天就有一个大型模型问世 GPT历史时刻 GPT-1 带回到2018年的NLP 所有下游任务都需要微调&#x…...

编程日记 2023/12/30 17:40:08

基于遗传算法的集装箱吊装优化，基于遗传算法的集装箱装卸优化

目录 背影 遗传算法的原理及步骤 基本定义 编码方式 适应度函数 运算过程 代码 结果分析 完整代码下载： 基于遗传算法的集装箱吊装优化，基于遗传算法的集装箱装卸优化（代码完整，数据齐全）资源-CSDN文库 https://download.csdn.net/download/abc991835105/88674652 背影 …...

编程日记 2023/12/30 17:35:03

postgreSQL单机部署

一、环境准备 架构操作系统IP主机名PG版本端口磁盘空间内存CPUsingle 单机centos7192.168.1.10pgserver01PostgreSQL 14.7543350G4G2 1、官网下载源码包 https://www.postgresql.org/download/2、操作系统参数修改 2.1 sysctl.conf配置 vi /etc/sysctl.conf kernel.sysrq …...

编程日记 2023/12/30 17:33:00

思维逻辑题3

题目1： 如果所有A都是B，且某个对象是B，那么它一定是A吗？ 答案：不一定，尽管所有A都是B，但还有其他的对象可能也是B。 题目2： 如果A和B都是真，那么以下哪个选项是真&…...

编程日记 2023/12/30 17:28:56

强大的音乐乐谱控件库

2023 Conmajia, 2018 Ajcek84 SN: 23C.1 本中文翻译已获原作者首肯。 简介 PSAM 控件库——波兰音乐文档系统——是用于显示、排版乐谱的强大 WinForm 库，包含用于绘制乐谱的名为 IncipitViewer 控件，乐谱内容可以从 MusicXml 文件读取，或者…...

编程日记 2023/12/30 17:27:55

数据库——简单查询复杂查询

1.实验内容及原理 1. 在 Windows 系统中安装 VMWare 虚拟机，在 VMWare 中安装 Ubuntu 系统,并在 Ubuntu 中搭建 LAMP 实验环境。 2. 使用 MySQL 进行一些基本操作： （1）登录 MySQL，在 MySQL 中创建用户，…...

编程日记 2023/12/30 17:25:53

java虚拟机内存管理

文章目录 概要一、jdk7与jdk8内存结构的差异二、程序计数器三、虚拟机栈3.1 什么是虚拟机栈3.2 什么是栈帧3.3 栈帧的组成 四、本地方法栈五、堆5.1 堆的特点5.2 堆的结构5.3 堆的参数配置 六、方法区6.1 方法区结构6.2 运行时常量池 七、元空间 概要 根据 JVM 规范&#xff0…...

编程日记 2023/12/30 17:18:48

Hive实战：词频统计

文章目录 一、实战概述二、提出任务三、完成任务（一）准备数据文件1、在虚拟机上创建文本文件2、将文本文件上传到HDFS指定目录 （二）实现步骤1、启动Hive Metastore服务2、启动Hive客户端3、基于HDFS文件创建外部表4、查询单词表&a…...

编程日记 2023/12/30 17:16:45

FairyGUI-Cocos Creator官方Demo源码解读

博主在学习Cocos Creator的时候，发现了一款免费的UI编辑器FairyGUI。这款编辑器的能力十分强大，但是网上的学习资源比较少，坑比较多，主要学习方式就是阅读官方文档和练习官方Demo。这里博主进行官方Demo的解读。 从gitee上克隆项目…...

编程日记 2023/12/30 17:10:40

LabVIEW利用视觉引导机开发器人精准抓取

LabVIEW利用视觉引导机开发器人精准抓取 本项目利用单目视觉技术指导多关节机器人精确抓取三维物体的技术。通过改进传统的相机标定方法，结合LabVIEW平台的Vision Development和Vision Builder forAutomated Inspection组件，优化了摄像系统的标定过程&a…...

编程日记 2023/12/30 17:08:38

【Linux】指令(本人使用比较少的)——笔记(持续更新)

文章目录 ps -axj：查看进程ps -aL：查看线程echo $?：查看最近程序的退出码jobs：查看后台运行的线程组fd 任务号：将后台任务提到前台bg 任务号：将暂停的后台程序重启netstat -nltp：查看服务及监听…...

编程日记 2023/12/30 17:05:36

032 - STM32学习笔记 - TIM基本定时器（一） - 定时器基本知识

032 - STM32学习笔记 - TIM定时器（一） - 基本定时器知识 这节开始学习一下TIM定时器功能，从字面意思上理解，定时器的基本功能就是用来定时，与定时器相结合，可以实现一些周期性的数据发送、采集等功能&#…...

编程日记 2023/12/30 17:03:34

轮廓检测与处理

轮廓检测 先将图像转换成二值 gray cv2.cvtColor(img, cv2.COLOR_BGR2GRAY) # 灰度图 ret, thresh cv2.threshold(gray, 127, 255, cv2.THRESH_BINARY) # 变为二值，大于127置为255，小于100置为0.使用cv2.findContours(thresh, cv2.RETR_TREE, cv2.…...

编程日记 2023/12/30 16:59:30

跟着LearnOpenGL学习11--材质

文章目录 一、材质二、设置材质三、光的属性四、不同的光源颜色 一、材质 在现实世界里，每个物体会对光产生不同的反应。 比如，钢制物体看起来通常会比陶土花瓶更闪闪发光，一个木头箱子也不会与一个钢制箱子反射同样程度的光。 有些物体反…...

编程日记 2023/12/30 16:57:28

Java guava partition方法拆分集合自定义集合拆分方法

日常开发中&#xff0c;经常遇到拆分集合处理的场景&#xff0c;现在记录2中拆分集合的方法。 1. 使用Guava包提供的集合操作工具栏 Lists.partition()方法拆分 首先&#xff0c;引入maven依赖 <dependency><groupId>com.google.guava</groupId><artifa…...

编程日记 2023/12/30 16:56:27

GLTF编辑器-位移贴图实现破碎的路面

在线工具推荐&#xff1a; 3D数字孪生场景编辑器 - GLTF/GLB材质纹理编辑器 - 3D模型在线转换 - Three.js AI自动纹理开发包 - YOLO 虚幻合成数据生成器 - 三维模型预览图生成器 - 3D模型语义搜索引擎 位移贴图是一种可以用于增加模型细节和形状的贴图。它能够在渲染时针…...

编程日记 2023/12/30 16:54:25

多维时序 | MATLAB实现SSA-BiLSTM麻雀算法优化双向长短期记忆神经网络多变量时间序列预测

多维时序 | MATLAB实现SSA-BiLSTM麻雀算法优化双向长短期记忆神经网络多变量时间序列预测 目录 多维时序 | MATLAB实现SSA-BiLSTM麻雀算法优化双向长短期记忆神经网络多变量时间序列预测预测效果基本介绍程序设计参考资料 预测效果 基本介绍 1.MATLAB实现SSA-BiLSTM麻雀算法优化…...

编程日记 2023/12/30 16:49:21

docker安装Nacos和Rabbitmq

一、安装Nacos 首先需要拉取对应的镜像文件&#xff1a;&#xff08;切换版本加上对应版本号即可&#xff0c;默认最新版&#xff09; docker pull nacos/nacos-server 接着挂载目录&#xff1a; mkdir -p /mydata/nacos/logs/ #新建logs目录 mkdir -p …...

编程日记 2023/12/30 16:43:17

Android MVC 写法

前言 Model&#xff1a;负责数据逻辑 View&#xff1a;负责视图逻辑 Controller&#xff1a;负责业务逻辑 持有关系&#xff1a; 1、View 持有 Controller 2、Controller 持有 Model 3、Model 持有 View 辅助工具&#xff1a;ViewBinding 执行流程&#xff1a;View >…...

编程日记 2023/12/30 16:41:15

网络层解读

基本介绍 概述 当两台主机之间的距离较远(如相隔几十或几百公里&#xff0c;甚至几千公里)时&#xff0c;就需要另一种结构的网络&#xff0c;即广域网。广域网尚无严格的定义。通常是指覆盖范围很广(远超过一个城市的范围)的长距离的单个网络。它由一些结点交换机以及连接这些…...

编程日记 2023/12/30 16:38:12

深度学习在微纳光子学中的应用

深度学习在微纳光子学中的主要应用方向 深度学习与微纳光子学的结合主要集中在以下几个方向&#xff1a; 逆向设计 通过神经网络快速预测微纳结构的光学响应&#xff0c;替代传统耗时的数值模拟方法。例如设计超表面、光子晶体等结构。 特征提取与优化 从复杂的光学数据中自…...

编程新知 2026/1/31 18:17:31

【Linux】C语言执行shell指令

在C语言中执行Shell指令 在C语言中&#xff0c;有几种方法可以执行Shell指令&#xff1a; 1. 使用system()函数 这是最简单的方法&#xff0c;包含在stdlib.h头文件中&#xff1a; #include <stdlib.h>int main() {system("ls -l"); // 执行ls -l命令retu…...

编程新知 2025/11/20 18:42:48

Mybatis逆向工程，动态创建实体类、条件扩展类、Mapper接口、Mapper.xml映射文件

今天呢&#xff0c;博主的学习进度也是步入了Java Mybatis 框架&#xff0c;目前正在逐步杨帆旗航。 那么接下来就给大家出一期有关 Mybatis 逆向工程的教学&#xff0c;希望能对大家有所帮助&#xff0c;也特别欢迎大家指点不足之处&#xff0c;小生很乐意接受正确的建议&…...

编程新知 2026/1/31 15:00:15

解锁数据库简洁之道：FastAPI与SQLModel实战指南

在构建现代Web应用程序时&#xff0c;与数据库的交互无疑是核心环节。虽然传统的数据库操作方式&#xff08;如直接编写SQL语句与psycopg2交互&#xff09;赋予了我们精细的控制权&#xff0c;但在面对日益复杂的业务逻辑和快速迭代的需求时&#xff0c;这种方式的开发效率和可…...

编程新知 2025/8/13 16:42:24

Opencv中的addweighted函数

一.addweighted函数作用 addweighted&#xff08;&#xff09;是OpenCV库中用于图像处理的函数&#xff0c;主要功能是将两个输入图像&#xff08;尺寸和类型相同&#xff09;按照指定的权重进行加权叠加&#xff08;图像融合&#xff09;&#xff0c;并添加一个标量值&#x…...

编程新知 2026/2/1 1:50:03

SpringBoot+uniapp 的 Champion 俱乐部微信小程序设计与实现，论文初版实现

摘要 本论文旨在设计并实现基于 SpringBoot 和 uniapp 的 Champion 俱乐部微信小程序&#xff0c;以满足俱乐部线上活动推广、会员管理、社交互动等需求。通过 SpringBoot 搭建后端服务&#xff0c;提供稳定高效的数据处理与业务逻辑支持&#xff1b;利用 uniapp 实现跨平台前…...

编程新知 2026/1/31 10:55:22

GitHub 趋势日报 (2025年06月08日)

&#x1f4ca; 由 TrendForge 系统生成 | &#x1f310; https://trendforge.devlive.org/ &#x1f310; 本日报中的项目描述已自动翻译为中文 &#x1f4c8; 今日获星趋势图 今日获星趋势图 884 cognee 566 dify 414 HumanSystemOptimization 414 omni-tools 321 note-gen …...

编程新知 2025/12/13 1:32:15

C++ 求圆面积的程序（Program to find area of a circle）

给定半径r&#xff0c;求圆的面积。圆的面积应精确到小数点后5位。 例子&#xff1a; 输入&#xff1a;r 5 输出&#xff1a;78.53982 解释&#xff1a;由于面积 PI * r * r 3.14159265358979323846 * 5 * 5 78.53982&#xff0c;因为我们只保留小数点后 5 位数字。 输…...

编程新知 2026/1/31 12:52:15

在鸿蒙HarmonyOS 5中使用DevEco Studio实现录音机应用

1. 项目配置与权限设置 1.1 配置module.json5 {"module": {"requestPermissions": [{"name": "ohos.permission.MICROPHONE","reason": "录音需要麦克风权限"},{"name": "ohos.permission.WRITE…...

编程新知 2025/10/3 17:30:30

HarmonyOS运动开发：如何用mpchart绘制运动配速图表

##鸿蒙核心技术##运动开发##Sensor Service Kit&#xff08;传感器服务&#xff09;# 前言 在运动类应用中&#xff0c;运动数据的可视化是提升用户体验的重要环节。通过直观的图表展示运动过程中的关键数据&#xff0c;如配速、距离、卡路里消耗等&#xff0c;用户可以更清晰…...

编程新知 2026/2/2 7:49:59