GPT系列概述
OPENAI做的东西
Openai老窝在爱荷华州，微软投资的数据中心
万物皆可GPT下咱们要失业了？
但是世界不仅仅是GPT
GPT其实也只是冰山一角，2022年每4天就有一个大型模型问世
GPT历史时刻
GPT-1
带回到2018年的NLP
所有下游任务都需要微调（再训练）
GPT-2
以不变应万变，需要注意的GPT-2中提示是不在训练中的
Temperature
温度的选择还是要根据实际情况来
温度越低，就希望以准确性为第一要务；
温度越高，就注重多样性选择，但准确性就降低了(对应GPT来说就有可能胡说八道了)
Top k与Top p
GPT-3
关键：让模型理解暗示的是什么东西
咱们面向百度编程，它面向人类编程
就是说GPT-3训练的数据包罗万象，上通天文下知地理
3种核心的下游任务方式
其实就是输入例子有几个，打个样
zero-shot
上面的回答我们是没有事先给出参考答案的。
one-shot
GPT回答是：打老板
few-shot
会给出多个例子
例1：
结果：
例2：
3种方式的对比
这三种方式都没有更新模型，相对来说肯定few的效果好一些；
但由于few-shot中模型是没有记住例子的能力的，所以每次提问的时候都需要给出这几个例子，但是问题就是API更贵了，输入序列长度更长了
网络结构
网络结构没啥特别的，就是transformer，但是3.2M的batch有点辣眼睛
CODEX
OpenAI Codex
GPT有点像多领域都涉及，但都不是涉及得很深；而现在很多模型都聚焦于自己擅长的领域，比如说CODEX，用于代码生成。
这其实在告诉我们一件事，GPT可以个性化设置。
Evaluating Large Language Models Trained on Code
用GPT-3模型重新训练（注意不是微调，而是输入数据换成github上爬的数据，都是代码的数据）
我总说面向GITHUB编程，GPT-3这回真把这个事干了
训练数据就是GITHUB，相当于把文档注释和代码结合到一起
输入注释或者文档，来预测代码如何实现，即要面向github编程了
相关文章：
GPT系列概述
OPENAI做的东西 Openai老窝在爱荷华州，微软投资的数据中心 万物皆可GPT下咱们要失业了？ 但是世界不仅仅是GPT GPT其实也只是冰山一角，2022年每4天就有一个大型模型问世 GPT历史时刻 GPT-1 带回到2018年的NLP 所有下游任务都需要微调&#x…...
基于遗传算法的集装箱吊装优化，基于遗传算法的集装箱装卸优化
目录 背影 遗传算法的原理及步骤 基本定义 编码方式 适应度函数 运算过程 代码 结果分析 完整代码下载： 基于遗传算法的集装箱吊装优化，基于遗传算法的集装箱装卸优化（代码完整，数据齐全）资源-CSDN文库 https://download.csdn.net/download/abc991835105/88674652 背影 …...
postgreSQL单机部署
一、环境准备 架构操作系统IP主机名PG版本端口磁盘空间内存CPUsingle 单机centos7192.168.1.10pgserver01PostgreSQL 14.7543350G4G2 1、官网下载源码包 https://www.postgresql.org/download/2、操作系统参数修改 2.1 sysctl.conf配置 vi /etc/sysctl.conf kernel.sysrq …...
思维逻辑题3
题目1： 如果所有A都是B，且某个对象是B，那么它一定是A吗？ 答案：不一定，尽管所有A都是B，但还有其他的对象可能也是B。 题目2： 如果A和B都是真，那么以下哪个选项是真&…...
强大的音乐乐谱控件库
2023 Conmajia, 2018 Ajcek84 SN: 23C.1 本中文翻译已获原作者首肯。 简介 PSAM 控件库——波兰音乐文档系统——是用于显示、排版乐谱的强大 WinForm 库，包含用于绘制乐谱的名为 IncipitViewer 控件，乐谱内容可以从 MusicXml 文件读取，或者…...
数据库——简单查询复杂查询
1.实验内容及原理 1. 在 Windows 系统中安装 VMWare 虚拟机，在 VMWare 中安装 Ubuntu 系统,并在 Ubuntu 中搭建 LAMP 实验环境。 2. 使用 MySQL 进行一些基本操作： （1）登录 MySQL，在 MySQL 中创建用户，…...
java虚拟机内存管理
文章目录 概要一、jdk7与jdk8内存结构的差异二、程序计数器三、虚拟机栈3.1 什么是虚拟机栈3.2 什么是栈帧3.3 栈帧的组成 四、本地方法栈五、堆5.1 堆的特点5.2 堆的结构5.3 堆的参数配置 六、方法区6.1 方法区结构6.2 运行时常量池 七、元空间 概要 根据 JVM 规范࿰…...
Hive实战：词频统计
文章目录 一、实战概述二、提出任务三、完成任务（一）准备数据文件1、在虚拟机上创建文本文件2、将文本文件上传到HDFS指定目录 （二）实现步骤1、启动Hive Metastore服务2、启动Hive客户端3、基于HDFS文件创建外部表4、查询单词表&a…...
FairyGUI-Cocos Creator官方Demo源码解读
博主在学习Cocos Creator的时候，发现了一款免费的UI编辑器FairyGUI。这款编辑器的能力十分强大，但是网上的学习资源比较少，坑比较多，主要学习方式就是阅读官方文档和练习官方Demo。这里博主进行官方Demo的解读。 从gitee上克隆项目…...
LabVIEW利用视觉引导机开发器人精准抓取
LabVIEW利用视觉引导机开发器人精准抓取 本项目利用单目视觉技术指导多关节机器人精确抓取三维物体的技术。通过改进传统的相机标定方法，结合LabVIEW平台的Vision Development和Vision Builder forAutomated Inspection组件，优化了摄像系统的标定过程&a…...
【Linux】指令(本人使用比较少的)——笔记(持续更新)
文章目录 ps -axj：查看进程ps -aL：查看线程echo $?：查看最近程序的退出码jobs：查看后台运行的线程组fd 任务号：将后台任务提到前台bg 任务号：将暂停的后台程序重启netstat -nltp：查看服务及监听…...
032 - STM32学习笔记 - TIM基本定时器（一） - 定时器基本知识
032 - STM32学习笔记 - TIM定时器（一） - 基本定时器知识 这节开始学习一下TIM定时器功能，从字面意思上理解，定时器的基本功能就是用来定时，与定时器相结合，可以实现一些周期性的数据发送、采集等功能&#…...
轮廓检测与处理
轮廓检测 先将图像转换成二值 gray cv2.cvtColor(img, cv2.COLOR_BGR2GRAY) # 灰度图 ret, thresh cv2.threshold(gray, 127, 255, cv2.THRESH_BINARY) # 变为二值，大于127置为255，小于100置为0.使用cv2.findContours(thresh, cv2.RETR_TREE, cv2.…...
跟着LearnOpenGL学习11--材质
文章目录 一、材质二、设置材质三、光的属性四、不同的光源颜色 一、材质 在现实世界里，每个物体会对光产生不同的反应。 比如，钢制物体看起来通常会比陶土花瓶更闪闪发光，一个木头箱子也不会与一个钢制箱子反射同样程度的光。 有些物体反…...
Java guava partition方法拆分集合自定义集合拆分方法
日常开发中，经常遇到拆分集合处理的场景，现在记录2中拆分集合的方法。 1. 使用Guava包提供的集合操作工具栏 Lists.partition()方法拆分 首先，引入maven依赖 <dependency><groupId>com.google.guava</groupId><artifa…...
GLTF编辑器-位移贴图实现破碎的路面
在线工具推荐： 3D数字孪生场景编辑器 - GLTF/GLB材质纹理编辑器 - 3D模型在线转换 - Three.js AI自动纹理开发包 - YOLO 虚幻合成数据生成器 - 三维模型预览图生成器 - 3D模型语义搜索引擎 位移贴图是一种可以用于增加模型细节和形状的贴图。它能够在渲染时针…...
多维时序 | MATLAB实现SSA-BiLSTM麻雀算法优化双向长短期记忆神经网络多变量时间序列预测
多维时序 | MATLAB实现SSA-BiLSTM麻雀算法优化双向长短期记忆神经网络多变量时间序列预测 目录 多维时序 | MATLAB实现SSA-BiLSTM麻雀算法优化双向长短期记忆神经网络多变量时间序列预测预测效果基本介绍程序设计参考资料 预测效果 基本介绍 1.MATLAB实现SSA-BiLSTM麻雀算法优化…...
docker安装Nacos和Rabbitmq
一、安装Nacos 首先需要拉取对应的镜像文件：（切换版本加上对应版本号即可，默认最新版） docker pull nacos/nacos-server 接着挂载目录： mkdir -p /mydata/nacos/logs/ #新建logs目录 mkdir -p …...
Android MVC 写法
前言 Model：负责数据逻辑 View：负责视图逻辑 Controller：负责业务逻辑 持有关系： 1、View 持有 Controller 2、Controller 持有 Model 3、Model 持有 View 辅助工具：ViewBinding 执行流程：View >…...
网络层解读
基本介绍 概述 当两台主机之间的距离较远(如相隔几十或几百公里，甚至几千公里)时，就需要另一种结构的网络，即广域网。广域网尚无严格的定义。通常是指覆盖范围很广(远超过一个城市的范围)的长距离的单个网络。它由一些结点交换机以及连接这些…...
k8s从入门到放弃之Ingress七层负载
k8s从入门到放弃之Ingress七层负载 在Kubernetes（简称K8s）中，Ingress是一个API对象，它允许你定义如何从集群外部访问集群内部的服务。Ingress可以提供负载均衡、SSL终结和基于名称的虚拟主机等功能。通过Ingress，你可…...
前端倒计时误差!
提示：记录工作中遇到的需求及解决办法 文章目录 前言一、误差从何而来？二、五大解决方案1. 动态校准法（基础版）2. Web Worker 计时3. 服务器时间同步4. Performance API 高精度计时5. 页面可见性API优化三、生产环境最佳实践四、终极解决方案架构前言 前几天听说公司某个项…...
循环冗余码校验CRC码 算法步骤+详细实例计算
通信过程：（白话解释） 我们将原始待发送的消息称为 M M M，依据发送接收消息双方约定的生成多项式 G ( x ) G(x) G(x)（意思就是 G （ x ) G（x) G（x) 是已知的）࿰…...
使用分级同态加密防御梯度泄漏
抽象 联邦学习 （FL） 支持跨分布式客户端进行协作模型训练，而无需共享原始数据，这使其成为在互联和自动驾驶汽车 （CAV） 等领域保护隐私的机器学习的一种很有前途的方法。然而，最近的研究表明&…...
Mac软件卸载指南，简单易懂！
刚和Adobe分手，它却总在Library里给你写"回忆录"？卸载的Final Cut Pro像电子幽灵般阴魂不散？总是会有残留文件，别慌！这份Mac软件卸载指南，将用最硬核的方式教你"数字分手术"࿰…...
拉力测试cuda pytorch 把 4070显卡拉满
import torch import timedef stress_test_gpu(matrix_size16384, duration300):"""对GPU进行压力测试，通过持续的矩阵乘法来最大化GPU利用率参数:matrix_size: 矩阵维度大小，增大可提高计算复杂度duration: 测试持续时间（秒&…...
SAP学习笔记 - 开发26 - 前端Fiori开发 OData V2 和 V4 的差异 (Deepseek整理）
上一章用到了V2 的概念，其实 Fiori当中还有 V4，咱们这一章来总结一下 V2 和 V4。 SAP学习笔记 - 开发25 - 前端Fiori开发 Remote OData Service(使用远端Odata服务)，代理中间件（ui5-middleware-simpleproxy）-CSDN博客…...
#Uniapp篇：chrome调试unapp适配
chrome调试设备----使用Android模拟机开发调试移动端页面 Chrome://inspect/#devices MuMu模拟器Edge浏览器：Android原生APP嵌入的H5页面元素定位 chrome://inspect/#devices uniapp单位适配 根路径下 postcss.config.js 需要装这些插件 “postcss”: “^8.5.…...
在鸿蒙HarmonyOS 5中使用DevEco Studio实现企业微信功能
1. 开发环境准备 安装DevEco Studio 3.1： 从华为开发者官网下载最新版DevEco Studio安装HarmonyOS 5.0 SDK 项目配置： // module.json5 {"module": {"requestPermissions": [{"name": "ohos.permis…...
uniapp 实现腾讯云IM群文件上传下载功能
UniApp 集成腾讯云IM实现群文件上传下载功能全攻略 一、功能背景与技术选型 在团队协作场景中，群文件共享是核心需求之一。本文将介绍如何基于腾讯云IMCOS，在uniapp中实现： 群内文件上传/下载文件元数据管理下载进度追踪跨平台文件预览 二…...