当前位置：首页 > news >正文

多模态MLLM都是怎么实现的（2）-DDPM

news 2025/8/3 2:38:41

上一篇的链接：多模态MLLM都是怎么实现的（2） (qq.com)

上上篇的链接：多模态MLLM都是怎么实现的（1） (qq.com)

在第一篇我们简单介绍了一下多模态训练的原理，包括clip，第二篇正好Sora横空出世，也让我就Dit做了一下抛砖引玉，顺便讲了VAE和ViT的部分，上节课我说过, DiT它就不是一个模型，它包含了VAEencoder+ViT + DDPM + VAE decoder, 其实最核心的部分就是DDPM，也就是Denoising Diffusion Probabilistic Models。

就DDPM本身而言各个解决方案都有自己的DDPM方法，它严格说也没那么绝对统一，但是大体思路都是靠diffusion算法来搞的，为了让大家更好理解，我从Diffusion算法开始讲起。

论文链接：2006.11239.pdf (arxiv.org)

这个论文真的好久了ÿ

多模态MLLM都是怎么实现的（2）-DDPM

上一篇的链接：多模态MLLM都是怎么实现的（2） (qq.com) 上上篇的链接：多模态MLLM都是怎么实现的（1） (qq.com) 在第一篇我们简单介绍了一下多模态训练的原理，包括clip，第二篇正好Sora横空出世，也让我就Dit做了一下抛砖引玉，顺便讲了VAE和ViT的部分，上节课我说过, DiT…...

编程日记 2024/3/5 15:10:23

QT----写完的程序打包为APK在自己的手机上运行

目录 1、qt安装android组件2、打开qt配置Android 环境3、手机打开开发者模式，打开usb调试，连接电脑4、运行代码 1、qt安装android组件 qtcreater–工具-QTMaintenaceTool-startMaintenaceTool—登陆—添加或修改组件—找到android，安装若是…...

编程日记 2024/3/5 15:06:17

Windows C++ SecurityImpersonation级别：线程临时采用另一个用户（客户端）的身份进行操作的能力

SecurityImpersonation 是 Windows 操作系统中安全模型的一个级别，用于描述一个线程临时采用另一个用户（客户端）的身份进行操作的能力。这是Windows安全性的一个核心概念，允许服务或进程在执行特定任务时拥有与请求该服务的用户相…...

编程日记 2024/3/5 15:05:16

重学SpringBoot3-yaml文件配置

重学SpringBoot3-yaml文件配置引言YAML 基本语法YAML 数据类型YAML 对象YAML 数组复合结构标量引用 YAML 文件结构Spring Boot 中的 YAML 配置注意事项总结参考引言 YAML（YAML Ain’t Markup Language）是一种常用于配置文件的数据序列化格式&#xff…...

编程日记 2024/3/5 15:02:12

【管理咨询宝藏资料33】某头部咨询公司组织效能提升模型方案

本报告首发于公号“管理咨询宝藏”，如需阅读完整版报告内容，请查阅公号“管理咨询宝藏”。【管理咨询宝藏资料33】某头部咨询公司组织效能提升模型方案【关键词】战略规划、组织效能、管理咨询【文件核心观点】 - 通过长期行业积累和市场洞察&#…...

编程日记 2024/3/5 15:01:11

特征值和特征向量及其在机器学习中的应用

特征值和特征向量是线性代数中的概念，用于分析和理解线性变换，特别是由方阵表示的线性变换。它们被用于许多不同的数学领域，包括机器学习和人工智能。在机器学习中，特征值和特征向量用于表示数据、对数据执行操作以及训练机器学…...

编程日记 2024/3/5 15:00:10

【Vue3】Ref 和 ShallowRef 的区别

这里写自定义目录标题什么是 Ref什么是 ShallowRef区别对比示例代码什么是 Ref Ref 是 Vue 3 中的一个新的基本响应式数据类型，它允许我们包装任意的 JavaScript 值，并且在数据变化时发出通知。Ref 提供了一个 .value 属性来访问其内部的值&#xff0…...

编程日记 2024/3/5 14:59:09

Linux - 进程概念

1、冯诺依曼体系结构我们常见的计算机，如笔记本。我们不常见的计算机，如服务器，大部分都遵守冯诺依曼体系； 截至目前，我们所认识的计算机，都是有一个个的硬件组件组成： 输入单元：…...

编程日记 2024/3/5 14:58:08

H5小游戏，象棋

H5小游戏源码、JS开发网页小游戏开源源码大合集。无需运行环境，解压后浏览器直接打开。有需要的，私信本人，发演示地址，可以后再订阅，发源码，含60+小游戏源码。如五子棋、象棋、植物大战僵尸、开心消消乐、扑鱼达人、飞机大战等等 <!DOCTYPE html PUBLIC "-//W3C/…...

编程日记 2024/3/5 14:52:01

LLM春招准备（1）

llm排序 GPT4V GPT-4V可以很好地理解直接绘制在图像上的视觉指示。它可以直接识别叠加在图像上的不同类型的视觉标记作为指针，例如圆形、方框和手绘（见下图）。虽然GPT-4V能够直接理解坐标，但相比于仅文本坐标，GPT-4V在…...

编程日记 2024/3/5 14:49:58

网络安全知识点总结

1、常见的网络攻击有哪些？ 答：（1）口令攻击：也就是窃取用户的账户和密码，普通用户习惯于设置简单的密码，且多个系统用同一套密码，黑客可以使用字典攻击（常用密码库&#…...

编程日记 2024/3/5 14:44:53

服务完善的智能组网系统？

智能组网是现代信息技术的重要组成部分，它通过将各种设备和计算机连接起来，实现高效的数据传输和远程通信。在一个全球化、高度互联的时代背景下，智能组网已经成为了各行各业的必需品。传统的组网方案往往面临着许多问题和挑战。为了解决这些…...

编程日记 2024/3/5 14:43:52

VS2022如何添加行号？（VS2022不显示行号解决方法）

VS2022不显示行号解决方法 VS2022是非常好用的工具，很多同学在初学C/C的时候，都会安装，默认安装好VS2022后，写代码时，在编辑框的窗口左边就有显示行号，如下图所示： 但是有些同学安装好后&#…...

编程日记 2024/3/5 14:40:49

125.验证回文字符串

如果在将所有大写字符转换为小写字符、并移除所有非字母数字字符之后，短语正着读和反着读都一样。则可以认为该短语是一个回文串。字母和数字都属于字母数字字符。给你一个字符串 s，如果它是回文串 ，返回 true ；否则&#…...

编程日记 2024/3/5 14:38:46

Spring Boot的启动流程（个人总结，仅供参考）

SpringBoot应用程序的启动流程主要包括初始化SpringApplication和运行SpringApplication两个过程。 1.初始化SpringApplication包括配置基本的环境变量、资源、构造器和监听器，初始化阶段的主要作用是为运行SpringApplication实例对象启动环境变量准备以及进行必要的…...

编程日记 2024/3/5 14:37:45

用BIO实现tomcat

一、前言本课程的难度较高，需要将Servlet原理和IO课程全部学完。二、当前项目使用方式 (1).自定义servlet 自定义servlet需要实现WebServlet并且实现name和urlMapping 重启进行访问 http://localhost:8090/myServlet (2).自定义html 重启进行访问 http://loc…...

编程日记 2024/3/5 14:34:42

JS逆向进阶篇【去哪儿旅行登录】【下篇-逆向Bella参数JS加密逻辑Python生成】

目录： 每篇前言：引子——本篇目的1、代码混淆和还原（1）单独替换：（2）整个js文件替换： 2、算法入口分析3、深入分析（0）整体分析：（1&am…...

编程日记 2024/3/5 14:31:39

【机器学习】生成对抗网络GAN

概述生成对抗网络（Generative Adversarial Network，GAN）是一种深度学习模型架构，由生成器（Generator）和判别器（Discriminator）两部分组成，旨在通过对抗训练的方式生成逼…...

编程日记 2024/3/5 14:30:38

安装jdk 安装jdk8 安装zookeeper 在指定目录执行下载命令我是在/newdisk/zookeeper目录下 wget https://archive.apache.org/dist/zookeeper/zookeeper-3.5.8/apache-zookeeper-3.5.8-bin.tar.gz --no-check-certificate下载好后并解压 tar -zxvf apache-zookeeper-3.5…...

编程日记 2024/3/5 14:29:37