当前位置： 首页 > article >正文

图形渲染中的定点数和浮点数

article 2026/2/4 15:30:47

三种API的NDC区别

NDC全称，Normalized Device Coordinates
Metal、Vulkan、OpenGL的区别如下：

featureOpenGL NDCMetal NDCVulkan NDC
坐标系右手左手右手
z值范围[-1,1][0,1][0,1]
xy视口范围[-1,1][-1,1][-1,1]

GPU渲染的定点数和浮点数

定点数类型：ARGB8888，RGB565，ARGB2101010，

浮点数：ARGB16161616，ARGB32323232，

加起来都是机器字长，32、64、128
定点数只能保存 【0-1】的范围，不能保存小于0和超过1的数据，超过部分会被直接截断。否则只能用浮点数来承接。

GPU内部计算可以保留精度，比如shder中的计算都是float（high、mid、low），移动端的TBR架构下从 board memory拷贝到tile的memory-on-chip的时候，片上存储和计算一般也是浮点数。只是tile处理完，输出的时候会有精度转化，会损失掉。

FP16格式的FBO，在上一次渲染会话退出的时候，也能保存大于1的情况，

FP buffer的用途

1）HDR渲染中，对图像做headroom倍数提量以后，颜色值会出现大于1的情况，比如提亮5倍，最终渲染目标中可能需要保存5.0的值，此时至少得FP16来存储。
2）色域转化中的大转小的场景，
在这里插入图片描述
P3转sRGB，BT2020转P3或者sRGB 都会出现负数，此时也需要用FP16存储，即scRGB。

不过色域转化必须在线性空间中处理，

  • 非线性域是用来表示光信号（连续的），
  • 线性域用来表示电信号，离散的（比如8bit 或者 10bit表示）

相关文章：

图形渲染中的定点数和浮点数

三种API的NDC区别 NDC全称，Normalized Device Coordinates Metal、Vulkan、OpenGL的区别如下： featureOpenGL NDCMetal NDCVulkan NDC坐标系右手左手右手z值范围[-1,1][0,1][0,1]xy视口范围[-1,1][-1,1][-1,1] GPU渲染的定点数和浮点数 定点数类型&a…...

编程日记 2026/1/25 2:36:27

【深度学习】CNN简述

文章目录 一、卷积神经网络（CNN）二、CNN结构特性1. CNN 典型结构2. 局部连接3. 权重共享4.空间或时间上的次采样 三、理解层面 一、卷积神经网络（CNN） 卷积神经网络(Convolutional Neural Network，CNN)是一种用于处理…...

编程日记 2026/1/28 17:22:36

强化学习课程：stanford_cs234 学习笔记（3）introduction to RL

文章目录 前言7 markov 实践7.1 markov 过程再叙7.2 markov 奖励过程 MRP（markov reward process）7.3 markov 价值函数与贝尔曼方程7.4 markov 决策过程MDP（markov decision process）的 状态价值函数7.4.1 状态价值函数7.4.2 状态…...

编程日记 2026/1/24 19:05:53

紫檀博物馆一游与软件开发

今天去逛了中国紫檀博物馆，里边很多层展品，也有一些清代的古物，檀木，黄花梨木家具和各种摆件，馆主陈丽华女士也是发心复原、保留和弘扬中国的传统文化，和西游记唐僧扮演者迟成瑞先生一家。 每一件展品都精…...

编程日记 2026/1/24 22:57:05

RocketMQ初认识

ProducerCustomerNameServer: Broker的注册服务发现中心BrokerServer:主要负责消息的存储、投递和查询以及服务高可用保证 RocketMQ的集群部署： 单个master的分支多个Master 模式：集群中有多个 Master 节点，彼此之间相互独立。生产者可以将消…...

编程日记 2026/1/24 21:52:59

第十三章:持久化存储_《凤凰架构：构建可靠的大型分布式系统》

第十三章 持久化存储 一、Kubernetes存储设计核心概念 （1）存储抽象模型 PersistentVolume (PV)：集群级别的存储资源抽象（如NFS卷/云存储盘）PersistentVolumeClaim (PVC)：用户对存储资源的声明请求&#…...

编程日记 2025/9/26 17:21:41

Chrome开发者工具实战：调试三剑客

在前端开发的世界里，Chrome开发者工具就是我们的瑞士军刀，它集成了各种强大的功能，帮助我们快速定位和解决代码中的问题。今天，就让我们一起来看看如何使用Chrome开发者工具中的“调试三剑客”：断点调试、调用栈跟踪和…...

编程日记 2026/2/4 11:21:53

教程：如何使用 JSON 合并脚本

目录 1. 介绍 2. 使用方法 3. 注意事项 4. 示例 5.完整代码 1. 介绍 该脚本用于将多个 COCO 格式的 JSON 标注文件合并为一个 JSON 文件。COCO 格式常用于目标检测和图像分割任务，包含以下三个主要部分： "images"：图像信息&a…...

编程日记 2025/12/5 20:00:17

C++/Qt 模拟sensornetwork的工作

C/Qt 可视化模拟sensornetwork的工作 C/Qt 模拟sensornetwork的工作 C/Qt 可视化模拟sensornetwork的工作内容简介（一） 需求和规格说明（1）问题描述（2）设计目的（3）基本要求&#xff0…...

编程日记 2026/1/28 9:39:40

ffmpeg音频分析

对一个16k 单声道音频，生成频谱图 ./ffmpeg -i input.wav -lavfi "showspectrumpics800x400:modecombined:scalelin:gain1.5" spectrum.png...

编程日记 2026/1/26 11:42:07

【多线程】CAS机制

目录 一. CAS的概念 二. CAS的原理 三.标准库中的CAS 四. CAS的应用 （1）原子类的使用 （2） 自旋锁的实现 五. CAS的ABA问题 一. CAS的概念 CAS（Compare And Swap）机制是一种无锁的并发控制技术&#…...

编程日记 2026/1/30 10:37:38

音视频(四)android编译

前言 前面已经讲了在windows上应用了，这章主要讲述android上编译 1：环境 git 如果失败 直接跑到相应网站 手动下载 ubuntu22.* android ndk r21e download:https://developer.android.google.cn/ndk/downloads/index.html?hluk 为什么用这个&#xff0…...

编程日记 2026/1/26 11:20:28

Chapter07_图像压缩编码

文章目录 图像压缩编码图像压缩编码基础图像压缩的基本概念信息相关信息冗余信源编码及其分类 图像编码模型信源编码器模型信源解码器模型 数字图像的信息熵信源符号码字平均长度信息熵信息量 变长编码费诺码霍夫曼编码 位平面编码格雷码 图像压缩编码 数字图像的压缩是指在满…...

编程日记 2026/1/26 13:47:54

团体设计程序天梯赛L2-025 # 分而治之

文章目录 题目解读输入格式输出格式 思路Ac Code参考 题目解读 在战争中，我们希望首先攻下敌方的部分城市，使其剩余的城市变成孤立无援，然后再分头各个击破。为此参谋部提供了若干打击方案。本题就请你编写程序，判断每个方案的可…...

编程日记 2026/1/31 20:38:53

Linux网络套接字

Socket 编程 UDP 本章将函数介绍和代码编写实战一起使用。 IPv4 的 socket 网络编程,sockaddr_in 中的成员 struct in_addr.sin_addr 表示 32 位 的 IP 地址 但是我们通常用点分十进制的字符串表示 IP 地址,以下函数可以在字符串表示和in_addr 表示之间转换; 字符串转 in_addr…...

编程日记 2026/2/1 21:49:13

看爬山虎学本领 软爬机器人来创新 各种场景能适应

*本文只做阅读笔记分享* 一、灵感来源：向植物取经 大家好！今天来聊一款超酷的软爬机器人，它的灵感来自会攀爬的植物——爬山虎。 大家都知道，爬墙高手爬山虎能在各种复杂墙面轻松生长攀爬，可现有的攀爬机器人在复杂…...

编程日记 2026/1/30 17:30:12

1-Docker安装

1.准备环境 1.第一步：创建以自己的姓名全拼的用户名 [roothadoop ~]# useradd qiwenyong [roothadoop ~]# passwd qiwenyong Changing password for user qiwenyong. New password: BAD PASSWORD: The password is shorter than 7 characters Retype new passwor…...

编程日记 2026/1/27 22:22:56

WPS JS宏编程教程（从基础到进阶）-- 第三部分：JS宏编程语言开发基础

第三部分：JS宏编程语言开发基础 @[TOC](第三部分：JS宏编程语言开发基础)**第三部分：JS宏编程语言开发基础**1. 变量与数据类型**变量声明：三种方式****示例代码****数据类型判断****实战：动态处理单元格类型**2. 运算符全解析**算术运算符****易错点：字符串拼接 vs 数值相…...

编程日记 2025/12/19 5:39:57

BT-Basic函数之首字母T

BT-Basic函数之首字母T 文章目录 BT-Basic函数之首字母Ttabtesttest conttest monitortest on boardstest scanworkstest shortstesthead cleanuptesthead configurationtesthead istesthead power on/offtesthead statustestjet print level istestordertestplan generationth…...

编程日记 2026/1/7 8:16:21

经典算法 约数之和

原题目链接 问题描述 假设现在有两个自然数 A 和 B，设 S 为 A^B 的所有约数之和。 请你计算：S mod 9901 的值。 输入格式 在一行中输入两个用空格隔开的整数 A 和 B。 输出格式 输出一个整数，表示 S mod 9901 的值。 数据范围 0 ≤ A, …...

编程日记 2025/6/17 22:35:18

Flinksql--订单宽表

参考： https://chbxw.blog.csdn.net/article/details/115078261 (datastream 实现) 一、ODS 模拟订单表及订单明细表 CREATE TABLE orders (order_id STRING,user_id STRING,order_time TIMESTAMP(3),-- 定义事件时间及 Watermark（允许5秒乱序&#x…...

编程日记 2025/5/28 16:16:32

C# 窗体应用(.FET Framework ) 打开文件操作

一、 打开文件或文件夹加载数据 1. 定义一个列表用来接收路径 public List<string> paths new List<string>();2. 打开文件选择一个文件并将文件放入列表中 OpenFileDialog open new OpenFileDialog(); // 过滤 open.Filter "(*.jpg;*.jpge;*.bmp;*.png…...

编程日记 2025/6/4 11:15:47

极客天成NVFile：无缓存直击存储性能天花板，重新定义AI时代并行存储新范式

在AI算力需求呈指数级爆发的今天&#xff0c;存储系统正面临一场前所未有的范式革命。传统存储架构中复杂的缓存机制、冗余的数据路径、僵化的扩展能力&#xff0c;已成为制约千卡GPU集群算力释放的重要因素。极客天成NVFile并行文件存储系统以全栈并行化架构设计和无缓存直通数…...

编程日记 2026/1/29 14:53:26

Java实现N皇后问题的双路径探索：递归回溯与迭代回溯算法详解

N皇后问题要求在NN的棋盘上放置N个皇后&#xff0c;使得她们无法互相攻击。本文提供递归和循环迭代两种解法&#xff0c;并通过图示解释核心逻辑。 一、算法核心思想 使用回溯法逐行放置皇后&#xff0c;通过冲突检测保证每行、每列、对角线上只有一个皇后。发现无效路径时回退…...

编程日记 2026/1/26 13:52:05

【代码艺廊】pyside6桌面应用范例：homemade-toolset

在研发测试日常工作中&#xff0c;通常会遇到很多琐碎的事情&#xff0c;占用我们工作的时间和精力&#xff0c;从而导致我们不能把大部分的注意力放在主要的工作上面。为了解决这个问题&#xff0c;除了加人之外&#xff0c;我们通常会开发一些日常用的效率工具&#xff0c;比…...

编程日记 2025/9/15 2:05:16

LeetCode 3047 求交集区域内的最大正方形面积

探寻矩形交集中的最大正方形面积 在算法与数据结构的探索之路上&#xff0c;二维平面几何问题一直占据着独特的地位&#xff0c;它们不仅考验我们的空间思维能力&#xff0c;还要求我们能够巧妙地运用算法逻辑。今天&#xff0c;我们将深入剖析一道极具代表性的二维平面几何算…...

编程日记 2025/5/28 18:16:37

谷歌开源单个 GPU 可运行的Gemma 3 模型，27B 超越 671B 参数的 DeepSeek

自从 DeepSeek 把训练成本打下来之后&#xff0c;各个模型厂家现在不再堆参数进行模型的能力对比。而是转向了训练成本优化方面&#xff0c;且还要保证模型能力不减反增的效果。包括使用较少的模型参数&#xff0c;降低 GPU 使用数量&#xff0c;降低模型内存占用等等技术手段。…...

编程日记 2026/1/25 20:11:56

C++_类和对象（下）

【本节目标】 再谈构造函数Static成员友元内部类匿名对象拷贝对象时的一些编译器优化再次理解封装 1. 再谈构造函数 1.1 构造函数体赋值 在创建对象时&#xff0c;编译器通过调用构造函数&#xff0c;给对象中各个成员变量一个合适的初始值。 class Date { public:Date(in…...

编程日记 2026/1/29 7:50:53

《Java实战：素数检测算法优化全解析——从暴力枚举到筛法进阶》

文章目录 摘要一、需求分析二、基础实现代码与问题原始代码&#xff08;暴力枚举法&#xff09;问题分析 三、优化版代码与解析优化1&#xff1a;平方根范围剪枝优化2&#xff1a;偶数快速跳过完整优化代码 四、性能对比五、高阶优化&#xff1a;埃拉托斯特尼筛法算法思想代码实…...

编程日记 2026/1/7 18:56:47

基于Python+Flask的服装零售商城APP方案，用到了DeepSeek AI、个性化推荐和AR虚拟试衣功能

首先创建项目结构&#xff1a; fashion_store/ ├── backend/ │ ├── app/ │ │ ├── __init__.py │ │ ├── models/ │ │ ├── routes/ │ │ ├── services/ │ │ └── utils/ │ ├── config.py │ ├── requirements.t…...

编程日记 2025/11/22 3:19:03