当前位置: 首页 > article >正文

大模型概述1

一个中文字符大约0.6个token一个英文单词一般0.3个token不同的大模型有自己不同的tokenize。令牌化的方法。FLOPs算力的参数多少此浮点型运算大模型分类分类方式一多模态的多种形态的模型专门处理文本语言大模型多模态理解大模型图生文非文本模态转换为文本多模态生成大模型文生图文本模态转换为非文本模态。模态文本语音图像视频巴拉巴拉的。大模型4要素大模型权重参数推理代码训练代码不开源训练数据集不开源大语言模型训练范式1.预训练模型 --》学知识 预训练学习下一个Token的概率分布情况。这个环节模型具备的是词语接龙而不是对话的能力。但无法保证回答是否有用是否符合人类偏好是否安全是否合规。大量数据塞入预训练学分布。 高手但是什么规矩也不懂2. SFT--》学会按指令回答问题 Supervised Fine-Tuning监督微调让模型学会如何按指令和执行特定任务这样只能学到类人但是没有办法真的完全是人。SFT1.标注成本高难以全面覆盖场合。微调不用计算机集群去实现微调。但需要大量的高质量数据。3.RLHF --》学会人类偏好 对最好的回答做奖励。 反套路必备避免奶奶难题模型的训练过程与推理过程大模型工程实现AIGC跟AGIAIGC人工智能生成。AGI通用人工智能。幻觉1.LLM不是知识库是生成模型 2.训练数据本身存在噪声或者冲突 3.RLHF强调有用回答而不是拒答 4.生成任务天然追求完整性而不是保守。1.提示词工程 2.rag 3.微调 4.续训 5.智能体开发1.提示词工程系统化地去说明任务。表达需求你想干嘛思维需要严密模型需要充当的角色目标明确背景与上下文输入格式输出格式质量与约束加上Few-shot的事例。用QA问答的方式也可以分系统提示词跟用户提示词。上下文我们历史的文字传入。 上下文窗口存在长度限制。提示词工程的边界1.参考资料过多上下文窗口不够用了 2. 操作需要多步完成 3. 指令遵循能力不足。4.缺少某个垂类领域的知识点开头与结尾的模型记忆比较好。中间可能就忘了写词的时候需要给抛出异常的地方不用让大模型强撑。CoTchain of thinking ToTTree of thinking

相关文章:

大模型概述1

一个中文字符大约0.6个token,一个英文单词一般0.3个token,不同的大模型有自己不同的tokenize。令牌化的方法。FLOPs:算力的参数,多少此浮点型运算大模型分类:分类方式一:多模态的,多种形态的模型…...

汉鼎建设:用技术解码高端制造的“洁净密码”

在东莞这座“世界工厂”,从精密电子到新能源电池,无数高端制造企业的生产线,都藏在一个个“比手术室还干净”的净化车间里。而广东汉鼎建设集团,正是这些车间背后的“隐形建造者”——作为总部位于东莞东城、拥有装修与机电双一级…...

Cisco 18系列AP通过u-boot实现tftp镜像启动的详细步骤解析

1. 理解Cisco 18系列AP的u-boot启动机制 当你拿到一台Cisco 18系列AP设备时,可能会遇到需要从网络加载镜像进行启动的情况。这就像我们电脑坏了需要从U盘重装系统一样,只不过这里用的是tftp协议通过网络来传输系统镜像。u-boot就是这个过程中的关键角色&…...

从零到一:手把手教你用Labelme打造专属Mask数据集

1. 为什么你需要掌握Labelme标注工具 如果你正在做计算机视觉相关的项目,尤其是图像分割任务,那么高质量的数据集就是你的命根子。市面上现成的数据集往往无法完全匹配你的业务需求,这时候自己动手标注数据就成了必经之路。我刚开始接触图像分…...

LeetCode 热题 100 精讲 | 动态规划进阶篇:最大子数组和 · 分割等和子集 · 最长公共子序列 · 打家劫舍 III

一、53. 最大子数组和 🔗 题目链接 LeetCode 53. 最大子数组和 📝 题目描述 给你一个整数数组 nums,请你找出一个具有最大和的连续子数组(子数组最少包含一个元素),返回其最大和。 示例: 输…...

保姆级教程:基于ROS Melodic和MoveIt!,手把手搭建双RM65机械臂协同控制系统

基于ROS Melodic和MoveIt!的双RM65机械臂协同控制系统实战指南 在工业自动化与智能制造领域,双机械臂协同作业正成为提升生产效率的关键技术。想象一下,两台机械臂如同默契的舞者,在装配线上精准配合,完成单台设备难以企及的复杂任…...

SITS2026未公开PPT泄露分析:7个被主流框架忽略的Attention计算冗余点(附Patch代码)

第一章:SITS2026深度解读:大模型推理优化技术 2026奇点智能技术大会(https://ml-summit.org) SITS2026首次系统性地公布了面向千亿参数级大语言模型的端到端推理优化框架——SITS-Optima,其核心突破在于将动态稀疏注意力、量化感知编译&…...

为什么你需要PS3GameUpdateDownloader?3步掌握索尼官方游戏更新下载

为什么你需要PS3GameUpdateDownloader?3步掌握索尼官方游戏更新下载 【免费下载链接】PS3GameUpdateDownloader downloader for ps3 game updates (.pkg files) from official sony servers written in python 项目地址: https://gitcode.com/gh_mirrors/ps/PS3Ga…...

TVA如何重塑3C产品质量检测新范式(5)

——领导者的角色:选择比努力更重要我们正站在制造业质量管理的转折点。过去,质量的提升是线性、渐进、有限的;未来,借助AI智能体视觉检测(TVA)等人工智能技术,质量的提升可以是非线性、跨越式、…...

Kubernetes Pod 日志持久化方案

Kubernetes Pod日志持久化方案解析 在云原生架构中,Kubernetes已成为容器编排的事实标准,但Pod的默认日志管理方式存在易丢失、难追溯的问题。日志作为故障排查、性能分析的重要依据,其持久化存储成为企业级应用的关键需求。本文将深入探讨几…...

保姆级教程:用Android Studio 2024.3.2 + ncnn,把YOLOv11模型部署到你的安卓手机上

从零开始:用Android Studio与ncnn实现YOLOv11安卓端高效部署实战 当你第一次听说能在手机上运行目标检测模型时,是不是既兴奋又忐忑?作为计算机视觉领域的标杆算法,YOLO系列以其实时性著称,而最新发布的YOLOv11更是将精…...

顶半部与底半部:那次中断风暴让我彻底搞懂了

那天晚上,产线测试机突然卡死,屏幕上的数据刷新停滞在23:47:15。重启后查看内核日志,满屏的“IRQ handler took too long”警告。问题定位到我们新加的传感器驱动——中断频率从设计的100Hz变成了实际跑起来的2kHz,ISR里那个浮点运…...

Clockwork for Dynamo:建筑信息模型自动化技术栈的转型引擎

Clockwork for Dynamo:建筑信息模型自动化技术栈的转型引擎 【免费下载链接】ClockworkForDynamo A collection of 450 custom nodes for the Dynamo visual programming environment 项目地址: https://gitcode.com/gh_mirrors/cl/ClockworkForDynamo 在建筑…...

macOS菜单栏管理架构:Ice系统的事件驱动设计与模块化实现

macOS菜单栏管理架构:Ice系统的事件驱动设计与模块化实现 【免费下载链接】Ice Powerful menu bar manager for macOS 项目地址: https://gitcode.com/GitHub_Trending/ice/Ice 在macOS生态系统中,菜单栏作为系统级交互界面的核心组件&#xff0c…...

FanControl终极指南:从基础配置到高级调优的Windows风扇控制完整实战

FanControl终极指南:从基础配置到高级调优的Windows风扇控制完整实战 【免费下载链接】FanControl.Releases This is the release repository for Fan Control, a highly customizable fan controlling software for Windows. 项目地址: https://gitcode.com/GitH…...

python学习-05列表

1列表定义1、以[]开头和结尾2、可以存放任意对象(数字、字符串、列表、字典。。。)3、可对列表进行增删改查2列表的创建方式1、直接定义2、多维列表(嵌套)3、使用list函数:list(可迭代对象):将其他类型的转…...

【AI原生UX设计反直觉真相】:为什么“更智能”反而导致用户流失率上升47%?——基于127个A/B测试的归因分析

第一章:AI原生UX设计的认知范式重构 2026奇点智能技术大会(https://ml-summit.org) 传统UX设计以“用户任务流”为中心,预设界面状态与交互路径;而AI原生UX要求设计者将系统视为具备意图推演、上下文感知与协同进化的认知协作者。这种转变不…...

MICROCHIP微芯 24AA02UIDT-I/OT SOT23 EEPROM

特性: 预编程的32位序列号: 在所有UID系列EEPROM中唯一 可扩展至48位、64位、128位、256位及其 他长度 单电源供电,工作电压低至1.7V 低功耗CMOS技术: -读取电流最大为1mA。 -待机电流最大1A。 2线串行接口,兼容12CTM Schmitt触发输入用于噪声抑制 输出斜…...

Inter字体终极指南:从屏幕优化到可变字体的完整实战手册

Inter字体终极指南:从屏幕优化到可变字体的完整实战手册 【免费下载链接】inter The Inter font family 项目地址: https://gitcode.com/gh_mirrors/in/inter Inter字体是一款专为数字屏幕设计的开源无衬线字体,以其卓越的可读性和灵活的可变字体…...

PowerPaint-V1 Gradio在STM32嵌入式系统中的应用:智能图像处理方案

PowerPaint-V1 Gradio在STM32嵌入式系统中的应用:智能图像处理方案 1. 引言 想象一下,你正在开发一款智能门禁系统,需要实时处理摄像头捕捉的人脸图像,但设备资源有限,只有一块STM32微控制器。传统方案要么图像处理效…...

Queue<T> 完整知识点详解

一是什么Queue<T> 是 先进先出&#xff08;FIFO&#xff09; 的泛型集合。只能从尾部入队只能从头部出队不支持索引访问顺序严格按照进入顺序二命名空间using System.Collections.Generic;三创建队列1.空队列Queue<int> queue new Queue<int>();2.指定容量Q…...

如何快速彻底清理显卡驱动:Display Driver Uninstaller终极使用指南

如何快速彻底清理显卡驱动&#xff1a;Display Driver Uninstaller终极使用指南 【免费下载链接】display-drivers-uninstaller Display Driver Uninstaller (DDU) a driver removal utility / cleaner utility 项目地址: https://gitcode.com/gh_mirrors/di/display-drivers…...

2.5D转真人引擎数字人构建:Anything to RealCharacters + LivePortrait联动教程

2.5D转真人引擎数字人构建&#xff1a;Anything to RealCharacters LivePortrait联动教程 1. 什么是2.5D转真人&#xff1f;为什么需要它&#xff1f; 你有没有试过——画了一个精致的二次元角色&#xff0c;或者用AI生成了一张动漫风格的立绘&#xff0c;但想把它变成能用在…...

ComfyUI Qwen人脸生成图像教程:提示词分层写法,效果更稳定

ComfyUI Qwen人脸生成图像教程&#xff1a;提示词分层写法&#xff0c;效果更稳定 1. 认识Qwen人脸生成模型 1.1 模型核心能力解析 Qwen-Image-Edit-F2P模型是一款专注于从单张人脸生成完整全身图像的专业工具。它不同于普通的图像生成模型&#xff0c;而是专门针对人脸到全…...

ESP-12E外围电路设计与调试全攻略

1. ESP-12E外围电路设计基础 ESP-12E作为一款高性价比的Wi-Fi模块&#xff0c;其核心是ESP8266芯片。要让这个"大脑"正常工作&#xff0c;必须给它搭建合适的外围电路。这就像给电脑配电源、内存和硬盘一样&#xff0c;缺一不可。我刚开始玩ESP-12E时&#xff0c;就因…...

计算机毕业设计:Python空气污染数据分析可视化系统 Django框架 可视化 数据分析 Prophet时间序列 大数据 大模型 深度学习(建议收藏)✅

博主介绍&#xff1a;✌全网粉丝10W,前互联网大厂软件研发、集结硕博英豪成立工作室。专注于计算机相关专业项目实战6年之久&#xff0c;选择我们就是选择放心、选择安心毕业✌ > &#x1f345;想要获取完整文章或者源码&#xff0c;或者代做&#xff0c;拉到文章底部即可与…...

跨平台图像采集封装头文件: 一行代码切换 Basler / 海康 / Baumer工业相机?

一行代码切换 Basler / 海康 / USB 摄像头&#xff1f; 开源&#xff1a;跨平台图像采集统一头文件来了&#xff01; “项目要支持三家相机&#xff0c;难道写三套采集逻辑&#xff1f;” “Windows 上跑得好好的&#xff0c;一到 Linux 就崩&#xff1f;” 在工业视觉、机器人…...

分布式任务调度:XXL-Job 与 Elastic-Job

分布式任务调度&#xff1a;XXL-Job 与 Elastic-Job 在分布式系统中&#xff0c;任务调度是确保业务逻辑高效执行的核心组件。随着微服务架构的普及&#xff0c;传统的单机调度工具已无法满足高可用、弹性扩展的需求。XXL-Job和Elastic-Job作为两款主流的分布式任务调度框架&a…...

用STM32 CubeMX HAL库玩转SG90:180度舵机和360度舵机代码一键生成教程

STM32 CubeMX HAL库驱动SG90舵机实战&#xff1a;从图形配置到多模式控制 在嵌入式开发领域&#xff0c;舵机控制一直是机器人、自动化设备中的基础技能。传统开发方式需要手动配置寄存器、计算分频系数&#xff0c;不仅耗时还容易出错。而现代开发工具链如STM32CubeMX配合HAL库…...

TypeScript的unreachable类型:表示永远不会到达的代码分支

TypeScript作为JavaScript的超集&#xff0c;以其强大的类型系统闻名。其中&#xff0c;unreachable类型是一个特殊的存在&#xff0c;它用于标记那些理论上永远不会被执行的代码分支。这个概念看似简单&#xff0c;却蕴含着类型安全与代码健壮性的深层逻辑。本文将深入探讨unr…...