当前位置： 首页 > news >正文

论文速读：Do Generated Data Always Help Contrastive Learning?

news 2025/10/19 4:17:46
  • 在对比学习领域，最近很多研究利用高质量生成模型来提升对比学习
    • 给定一个未标记的数据集，在其上训练一个生成模型来生成大量的合成样本，然后在真实数据和生成数据的组合上执行对比学习
    • 这种使用生成数据的最简单方式被称为“数据膨胀”
    • 这与数据增强过程正交，其中无论是原始还是生成的图像都会经过手动增强以产生在对比学习中使用的正负样本对

  • 论文发现：生成的数据并不总是有利于对比学习
    • 仅仅将CIFAR-10通过DDPM生成的100万图像进行数据膨胀，反而导致线性探测精度更差

  • ——>论文从两个方面调查这种意外的性能下降
    • 数据膨胀（如何构建膨胀数据）
      • 更好的生成质量帮助有限，而重新加权真实数据和生成数据可以获得更大的收益
    • 数据增强（如何使用膨胀数据制作增强样本）
      • 尽管在标准对比学习中有害，但较弱的数据增强与数据膨胀结合使用时可以非常有益
  • ——》建立了第一个针对膨胀对比学习的普遍性保证，并通过揭示数据膨胀和数据增强之间的互补作用来解释弱增强的好处
  • 基于这些见解，论文提出了一种自适应膨胀（AdaInf）策略，该策略可以自适应调整数据增强的强度和混合比例，从而在不增加任何计算开销的情况下显著提高下游性能

相关文章：

论文速读：Do Generated Data Always Help Contrastive Learning?

在对比学习领域，最近很多研究利用高质量生成模型来提升对比学习 给定一个未标记的数据集，在其上训练一个生成模型来生成大量的合成样本，然后在真实数据和生成数据的组合上执行对比学习这种使用生成数据的最简单方式被称为“数据膨胀”这与数据…...

编程日记 2024/4/16 1:53:55

华为欧拉系统（openEuler-22.03）安装深信服EasyConnect软件（图文详解）

欧拉镜像下载安装 iso镜像官网下载地址 选择最小化安装，标准模式 换华为镜像源 更换华为镜像站，加速下载： sed -i "s#http://repo.openeuler.org#https://mirrors.huaweicloud.com/openeuler#g" /etc/yum.repos.d/openEuler.r…...

编程日记 2024/4/16 1:50:51

git commit --amend用法

一、git commit --amend 修改提交信息：您可以使用 git commit --amend 命令来修改最新提交的提交信息。执行该命令后，Git 将会打开文本编辑器（通常是的默认文本编辑器），以便编辑提交信息。完成编辑后保存并关闭编辑器…...

编程日记 2024/4/16 1:47:48

分布式系统：缓存与数据库一致性问题

前言 缓存设计是应用系统设计中重要的一环，是通过空间换取时间的一种策略，达到高性能访问数据的目的；但是缓存的数据并不是时刻存在内存中，当数据发生变化时，如何与数据库中的数据保持一致，以满足业务系统…...

编程日记 2024/4/16 1:43:45

JavaEE企业开发新技术5

目录 2.18 综合应用-1 2.19 综合应用-2 2.20 综合应用-3 2.21 综合应用-4 2.22 综合应用-5 Synchronized ： 2.18 综合应用-1 反射的高级应用 DAO开发中，实体类对应DAO的实现类中有很多方法的代码具有高度相似性，为了提供代码的复用性,降低…...

编程日记 2024/4/16 1:42:43

mysql dump导出导入数据

前言 mysqldump是MySQL数据库中一个非常有用的命令行工具，用于备份和还原数据库。它可以将整个数据库或者特定的表导出为一个SQL文件，以便在需要时进行恢复或迁移。 使用mysqldump可以执行以下操作： 备份数据库：可以使用mysqld…...

编程日记 2024/4/16 1:41:42

刷题记录3

# 10 字符个数统计 描述 编写一个函数，计算字符串中含有的不同字符的个数。字符在 ASCII 码范围内( 0~127 ，包括 0 和 127 )，换行表示结束符，不算在字符里。不在范围内的不作统计。多个相同的字符只计算一次 例如，对…...

编程日记 2024/4/16 1:40:41

Decorator 装饰

意图 动态的给一个对象添加一些额外的职责。就增加功能而言，Decorator模式比生成子类更加灵活 结构 其中： Component定义一个对象接口，可以给这些对象动态的添加职责。ConcreteComponent定义一个对象，可以给这个对象添加一些职…...

编程日记 2024/4/16 1:39:40

SpringMVC：搭建第一个web项目并配置视图解析器

👉需求：用spring mvc框架搭建web项目，通过配置视图解析器达到jsp页面不得直接访问，实现基本的输出“hello world”功能。👩‍💻👩‍💻👩‍💻 1 创建web项目 1…...

编程日记 2024/4/16 1:34:35

一文了解HTTPS的加密原理

HTTPS是一种安全的网络通信协议，用于在互联网上提供端到端的加密通信，确保数据在客户端（如Web浏览器）与服务器之间传输时的机密性、完整性和身份验证。HTTPS的加密原理主要基于SSL/TLS协议，以下详细阐述其工作过程&…...

编程日记 2024/4/16 1:33:34

Ubuntu系统空间整理

查看文件大小命令 查看文件以及文件夹大小 ls -hl #查看文件大小，-h 表示Human-Readable ll -h #查看文件夹的大小 #du命令查看文件或文件夹的磁盘使用空间，–max-depth 用于指定深入目录的层数。#查看当前目录已经使用总大小及当前目录下一级文件或…...

编程日记 2024/4/16 1:29:29

PHP Storm 2024.1使用

本文讲的是phpstorm 2024.1最新版本激活使用教程，本教程适用于windows操作系统。 1.先去idea官网下载phpstorm包，我这里以2023.2最新版本为例 官网地址：https://www.jetbrains.com/zh-cn/phpstorm/ 2.下载下来后安装，点下一步 …...

编程日记 2024/4/16 1:28:28

王东岳-知鱼之乐【边读边记】1

2024-04-15 21:00 终于打算开始读这本书了，作者王东岳，第一次听到这个名字，是因为传说王东岳是李善友的师父，我是先从混沌学院知道的李善友，因为李善友还是有东西的，所以我对王东岳起步也是非常尊敬的。所以…...

编程日记 2024/4/16 1:26:26

迁移docker部署的GitLab

目录 1. 背景2. 参考3. 环境4. 过程4.1 查看原docker启动命令4.2 打包挂载目录传至新宿主机并创建对应目录4.3 保存镜像并传至新宿主机下4.4 新宿主机启动GitLab容器 5 故障5.1 容器不断重启5.2 权限拒绝5.3 容器内错误日志 6 重启容器服务正常7 总结 1. 背景 最近接到一个任务…...

编程日记 2024/4/16 1:21:21

今年消费新潮流：零元购商业模式

今天给大家推荐一种极具创新的电子商务模式：零元购商业模式 这个模式支持消费者以零成本或极低成本购买商品。这种模式主要通过返现、积分、优惠券等方式来减少支付金额，使消费者实现“零成本”购物的目标。 人民网在去年发表了一篇文章。 总结了一下&a…...

编程日记 2024/4/16 1:16:17

Go导入私有仓库

使用go.mod依赖第三方库时，有以下要求： 代码仓库托管于VCS(版本控制系统)；代码仓库是公开的；仓库地址使用域名访问；仓库域名支持HTTPS访问。 对于自己或者公司内部搭建的私有git，这些条件是比较难同时满足…...

编程日记 2024/4/16 1:12:13

GIS GeoJSON数据获取

1、工具地址 DataV.GeoAtlas地理小工具系列 2、界面预览...

编程日记 2024/4/16 1:11:12

书生·浦语大模型实战营 | 第3次学习笔记

前言 书生浦语大模型应用实战营 第二期正在开营，欢迎大家来学习。（参与链接：https://mp.weixin.qq.com/s/YYSr3re6IduLJCAh-jgZqg 第三堂课的视频链接：https://www.bilibili.com/video/BV1QA4m1F7t4/ 本次笔记是学习完第三堂课…...

编程日记 2024/4/16 1:10:11

easyExcel - 按模板导出

目录 前言一、情景介绍二、文档介绍2.1 读取模板2.2 填充模板 三、代码示例3.1 案例一：工资表3.2 案例二：报价单 四、我所遇到的问题 前言 Java-easyExcel入门教程：https://blog.csdn.net/xhmico/article/details/134714025 之前有介绍过如…...

编程日记 2024/4/16 1:09:10

使用 Tranformer 进行概率时间序列预测实战

使用 Transformers 进行概率时间序列预测实战 通常，经典方法针对数据集中的每个时间序列单独拟合。然而，当处理大量时间序列时，在所有可用时间序列上训练一个“全局”模型是有益的，这使模型能够从许多不同的来源学习潜在的表示。…...

编程日记 2024/4/16 1:06:06

JavaSec-RCE

简介 RCE(Remote Code Execution)，可以分为:命令注入(Command Injection)、代码注入(Code Injection) 代码注入 1.漏洞场景：Groovy代码注入 Groovy是一种基于JVM的动态语言，语法简洁，支持闭包、动态类型和Java互操作性&#xff0c…...

编程新知 2025/10/18 4:36:30

【杂谈】-递归进化：人工智能的自我改进与监管挑战

递归进化：人工智能的自我改进与监管挑战 文章目录 递归进化：人工智能的自我改进与监管挑战1、自我改进型人工智能的崛起2、人工智能如何挑战人类监管？3、确保人工智能受控的策略4、人类在人工智能发展中的角色5、平衡自主性与控制力6、总结与…...

编程新知 2025/9/29 3:23:47

进程地址空间（比特课总结）

一、进程地址空间 1. 环境变量 1 ）⽤户级环境变量与系统级环境变量 全局属性：环境变量具有全局属性，会被⼦进程继承。例如当bash启动⼦进程时，环 境变量会⾃动传递给⼦进程。 本地变量限制：本地变量只在当前进程(ba…...

编程新知 2025/7/9 17:20:48

黑马Mybatis

Mybatis 表现层&#xff1a;页面展示 业务层&#xff1a;逻辑处理 持久层&#xff1a;持久数据化保存 在这里插入图片描述 Mybatis快速入门 ![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/6501c2109c4442118ceb6014725e48e4.png //logback.xml <?xml ver…...

编程新知 2025/10/14 11:33:35

【第二十一章 SDIO接口(SDIO)】

第二十一章 SDIO接口 目录 第二十一章 SDIO接口(SDIO) 1 SDIO 主要功能 2 SDIO 总线拓扑 3 SDIO 功能描述 3.1 SDIO 适配器 3.2 SDIOAHB 接口 4 卡功能描述 4.1 卡识别模式 4.2 卡复位 4.3 操作电压范围确认 4.4 卡识别过程 4.5 写数据块 4.6 读数据块 4.7 数据流…...

编程新知 2025/10/14 12:39:26

JVM垃圾回收机制全解析

Java虚拟机&#xff08;JVM&#xff09;中的垃圾收集器&#xff08;Garbage Collector&#xff0c;简称GC&#xff09;是用于自动管理内存的机制。它负责识别和清除不再被程序使用的对象&#xff0c;从而释放内存空间&#xff0c;避免内存泄漏和内存溢出等问题。垃圾收集器在Ja…...

编程新知 2025/9/11 12:54:42

多模态商品数据接口：融合图像、语音与文字的下一代商品详情体验

一、多模态商品数据接口的技术架构 &#xff08;一&#xff09;多模态数据融合引擎 跨模态语义对齐 通过Transformer架构实现图像、语音、文字的语义关联。例如&#xff0c;当用户上传一张“蓝色连衣裙”的图片时&#xff0c;接口可自动提取图像中的颜色&#xff08;RGB值&…...

编程新知 2025/7/23 3:55:49

算法：模拟

1.替换所有的问号 1576. 替换所有的问号 - 力扣&#xff08;LeetCode&#xff09; ​遍历字符串​&#xff1a;通过外层循环逐一检查每个字符。​遇到 ? 时处理​&#xff1a; 内层循环遍历小写字母&#xff08;a 到 z&#xff09;。对每个字母检查是否满足&#xff1a; ​与…...

编程新知 2025/10/12 23:48:22

A2A JS SDK 完整教程：快速入门指南

目录 什么是 A2A JS SDK?A2A JS 安装与设置A2A JS 核心概念创建你的第一个 A2A JS 代理A2A JS 服务端开发A2A JS 客户端使用A2A JS 高级特性A2A JS 最佳实践A2A JS 故障排除 什么是 A2A JS SDK? A2A JS SDK 是一个专为 JavaScript/TypeScript 开发者设计的强大库&#xff…...

编程新知 2025/9/29 5:00:25

计算机基础知识解析：从应用到架构的全面拆解

目录 前言 1、 计算机的应用领域&#xff1a;无处不在的数字助手 2、 计算机的进化史&#xff1a;从算盘到量子计算 3、计算机的分类&#xff1a;不止 “台式机和笔记本” 4、计算机的组件&#xff1a;硬件与软件的协同 4.1 硬件&#xff1a;五大核心部件 4.2 软件&#…...

编程新知 2025/9/28 3:39:01