当前位置： 首页 > news >正文

论文速读：Do Generated Data Always Help Contrastive Learning?

news 2026/2/9 11:56:43
  • 在对比学习领域，最近很多研究利用高质量生成模型来提升对比学习
    • 给定一个未标记的数据集，在其上训练一个生成模型来生成大量的合成样本，然后在真实数据和生成数据的组合上执行对比学习
    • 这种使用生成数据的最简单方式被称为“数据膨胀”
    • 这与数据增强过程正交，其中无论是原始还是生成的图像都会经过手动增强以产生在对比学习中使用的正负样本对

  • 论文发现：生成的数据并不总是有利于对比学习
    • 仅仅将CIFAR-10通过DDPM生成的100万图像进行数据膨胀，反而导致线性探测精度更差

  • ——>论文从两个方面调查这种意外的性能下降
    • 数据膨胀（如何构建膨胀数据）
      • 更好的生成质量帮助有限，而重新加权真实数据和生成数据可以获得更大的收益
    • 数据增强（如何使用膨胀数据制作增强样本）
      • 尽管在标准对比学习中有害，但较弱的数据增强与数据膨胀结合使用时可以非常有益
  • ——》建立了第一个针对膨胀对比学习的普遍性保证，并通过揭示数据膨胀和数据增强之间的互补作用来解释弱增强的好处
  • 基于这些见解，论文提出了一种自适应膨胀（AdaInf）策略，该策略可以自适应调整数据增强的强度和混合比例，从而在不增加任何计算开销的情况下显著提高下游性能

相关文章：

论文速读：Do Generated Data Always Help Contrastive Learning?

在对比学习领域，最近很多研究利用高质量生成模型来提升对比学习 给定一个未标记的数据集，在其上训练一个生成模型来生成大量的合成样本，然后在真实数据和生成数据的组合上执行对比学习这种使用生成数据的最简单方式被称为“数据膨胀”这与数据…...

编程日记 2024/4/16 1:53:55

华为欧拉系统（openEuler-22.03）安装深信服EasyConnect软件（图文详解）

欧拉镜像下载安装 iso镜像官网下载地址 选择最小化安装，标准模式 换华为镜像源 更换华为镜像站，加速下载： sed -i "s#http://repo.openeuler.org#https://mirrors.huaweicloud.com/openeuler#g" /etc/yum.repos.d/openEuler.r…...

编程日记 2024/4/16 1:50:51

git commit --amend用法

一、git commit --amend 修改提交信息：您可以使用 git commit --amend 命令来修改最新提交的提交信息。执行该命令后，Git 将会打开文本编辑器（通常是的默认文本编辑器），以便编辑提交信息。完成编辑后保存并关闭编辑器…...

编程日记 2024/4/16 1:47:48

分布式系统：缓存与数据库一致性问题

前言 缓存设计是应用系统设计中重要的一环，是通过空间换取时间的一种策略，达到高性能访问数据的目的；但是缓存的数据并不是时刻存在内存中，当数据发生变化时，如何与数据库中的数据保持一致，以满足业务系统…...

编程日记 2024/4/16 1:43:45

JavaEE企业开发新技术5

目录 2.18 综合应用-1 2.19 综合应用-2 2.20 综合应用-3 2.21 综合应用-4 2.22 综合应用-5 Synchronized ： 2.18 综合应用-1 反射的高级应用 DAO开发中，实体类对应DAO的实现类中有很多方法的代码具有高度相似性，为了提供代码的复用性,降低…...

编程日记 2024/4/16 1:42:43

mysql dump导出导入数据

前言 mysqldump是MySQL数据库中一个非常有用的命令行工具，用于备份和还原数据库。它可以将整个数据库或者特定的表导出为一个SQL文件，以便在需要时进行恢复或迁移。 使用mysqldump可以执行以下操作： 备份数据库：可以使用mysqld…...

编程日记 2024/4/16 1:41:42

刷题记录3

# 10 字符个数统计 描述 编写一个函数，计算字符串中含有的不同字符的个数。字符在 ASCII 码范围内( 0~127 ，包括 0 和 127 )，换行表示结束符，不算在字符里。不在范围内的不作统计。多个相同的字符只计算一次 例如，对…...

编程日记 2024/4/16 1:40:41

Decorator 装饰

意图 动态的给一个对象添加一些额外的职责。就增加功能而言，Decorator模式比生成子类更加灵活 结构 其中： Component定义一个对象接口，可以给这些对象动态的添加职责。ConcreteComponent定义一个对象，可以给这个对象添加一些职…...

编程日记 2024/4/16 1:39:40

SpringMVC：搭建第一个web项目并配置视图解析器

👉需求：用spring mvc框架搭建web项目，通过配置视图解析器达到jsp页面不得直接访问，实现基本的输出“hello world”功能。👩‍💻👩‍💻👩‍💻 1 创建web项目 1…...

编程日记 2024/4/16 1:34:35

一文了解HTTPS的加密原理

HTTPS是一种安全的网络通信协议，用于在互联网上提供端到端的加密通信，确保数据在客户端（如Web浏览器）与服务器之间传输时的机密性、完整性和身份验证。HTTPS的加密原理主要基于SSL/TLS协议，以下详细阐述其工作过程&…...

编程日记 2024/4/16 1:33:34

Ubuntu系统空间整理

查看文件大小命令 查看文件以及文件夹大小 ls -hl #查看文件大小，-h 表示Human-Readable ll -h #查看文件夹的大小 #du命令查看文件或文件夹的磁盘使用空间，–max-depth 用于指定深入目录的层数。#查看当前目录已经使用总大小及当前目录下一级文件或…...

编程日记 2024/4/16 1:29:29

PHP Storm 2024.1使用

本文讲的是phpstorm 2024.1最新版本激活使用教程，本教程适用于windows操作系统。 1.先去idea官网下载phpstorm包，我这里以2023.2最新版本为例 官网地址：https://www.jetbrains.com/zh-cn/phpstorm/ 2.下载下来后安装，点下一步 …...

编程日记 2024/4/16 1:28:28

王东岳-知鱼之乐【边读边记】1

2024-04-15 21:00 终于打算开始读这本书了，作者王东岳，第一次听到这个名字，是因为传说王东岳是李善友的师父，我是先从混沌学院知道的李善友，因为李善友还是有东西的，所以我对王东岳起步也是非常尊敬的。所以…...

编程日记 2024/4/16 1:26:26

迁移docker部署的GitLab

目录 1. 背景2. 参考3. 环境4. 过程4.1 查看原docker启动命令4.2 打包挂载目录传至新宿主机并创建对应目录4.3 保存镜像并传至新宿主机下4.4 新宿主机启动GitLab容器 5 故障5.1 容器不断重启5.2 权限拒绝5.3 容器内错误日志 6 重启容器服务正常7 总结 1. 背景 最近接到一个任务…...

编程日记 2024/4/16 1:21:21

今年消费新潮流：零元购商业模式

今天给大家推荐一种极具创新的电子商务模式：零元购商业模式 这个模式支持消费者以零成本或极低成本购买商品。这种模式主要通过返现、积分、优惠券等方式来减少支付金额，使消费者实现“零成本”购物的目标。 人民网在去年发表了一篇文章。 总结了一下&a…...

编程日记 2024/4/16 1:16:17

Go导入私有仓库

使用go.mod依赖第三方库时，有以下要求： 代码仓库托管于VCS(版本控制系统)；代码仓库是公开的；仓库地址使用域名访问；仓库域名支持HTTPS访问。 对于自己或者公司内部搭建的私有git，这些条件是比较难同时满足…...

编程日记 2024/4/16 1:12:13

GIS GeoJSON数据获取

1、工具地址 DataV.GeoAtlas地理小工具系列 2、界面预览...

编程日记 2024/4/16 1:11:12

书生·浦语大模型实战营 | 第3次学习笔记

前言 书生浦语大模型应用实战营 第二期正在开营，欢迎大家来学习。（参与链接：https://mp.weixin.qq.com/s/YYSr3re6IduLJCAh-jgZqg 第三堂课的视频链接：https://www.bilibili.com/video/BV1QA4m1F7t4/ 本次笔记是学习完第三堂课…...

编程日记 2024/4/16 1:10:11

easyExcel - 按模板导出

目录 前言一、情景介绍二、文档介绍2.1 读取模板2.2 填充模板 三、代码示例3.1 案例一：工资表3.2 案例二：报价单 四、我所遇到的问题 前言 Java-easyExcel入门教程：https://blog.csdn.net/xhmico/article/details/134714025 之前有介绍过如…...

编程日记 2024/4/16 1:09:10

使用 Tranformer 进行概率时间序列预测实战

使用 Transformers 进行概率时间序列预测实战 通常，经典方法针对数据集中的每个时间序列单独拟合。然而，当处理大量时间序列时，在所有可用时间序列上训练一个“全局”模型是有益的，这使模型能够从许多不同的来源学习潜在的表示。…...

编程日记 2024/4/16 1:06:06

阿里云ACP云计算备考笔记 (5)——弹性伸缩

目录 第一章 概述 第二章 弹性伸缩简介 1、弹性伸缩 2、垂直伸缩 3、优势 4、应用场景 ① 无规律的业务量波动 ② 有规律的业务量波动 ③ 无明显业务量波动 ④ 混合型业务 ⑤ 消息通知 ⑥ 生命周期挂钩 ⑦ 自定义方式 ⑧ 滚的升级 5、使用限制 第三章 主要定义 …...

编程新知 2026/1/22 6:07:24

Linux相关概念和易错知识点（42）（TCP的连接管理、可靠性、面临复杂网络的处理）

目录 1.TCP的连接管理机制（1）三次握手①握手过程②对握手过程的理解 （2）四次挥手（3）握手和挥手的触发（4）状态切换①挥手过程中状态的切换②握手过程中状态的切换 2.TCP的可靠性&…...

编程新知 2026/1/30 0:09:51

在 Nginx Stream 层“改写”MQTT ngx_stream_mqtt_filter_module

1、为什么要修改 CONNECT 报文？ 多租户隔离：自动为接入设备追加租户前缀，后端按 ClientID 拆分队列。零代码鉴权：将入站用户名替换为 OAuth Access-Token，后端 Broker 统一校验。灰度发布：根据 IP/地理位写…...

编程新知 2025/8/1 10:20:23

SpringBoot+uniapp 的 Champion 俱乐部微信小程序设计与实现，论文初版实现

摘要 本论文旨在设计并实现基于 SpringBoot 和 uniapp 的 Champion 俱乐部微信小程序，以满足俱乐部线上活动推广、会员管理、社交互动等需求。通过 SpringBoot 搭建后端服务，提供稳定高效的数据处理与业务逻辑支持；利用 uniapp 实现跨平台前…...

编程新知 2026/1/31 10:55:22

CSS设置元素的宽度根据其内容自动调整

width: fit-content 是 CSS 中的一个属性值&#xff0c;用于设置元素的宽度根据其内容自动调整&#xff0c;确保宽度刚好容纳内容而不会超出。 效果对比 默认情况&#xff08;width: auto&#xff09;&#xff1a; 块级元素&#xff08;如 <div>&#xff09;会占满父容器…...

编程新知 2025/10/16 16:03:09

RabbitMQ入门4.1.0版本（基于java、SpringBoot操作）

RabbitMQ 一、RabbitMQ概述 RabbitMQ RabbitMQ最初由LShift和CohesiveFT于2007年开发&#xff0c;后来由Pivotal Software Inc.&#xff08;现为VMware子公司&#xff09;接管。RabbitMQ 是一个开源的消息代理和队列服务器&#xff0c;用 Erlang 语言编写。广泛应用于各种分布…...

编程新知 2026/1/31 3:52:49

day36-多路IO复用

一、基本概念 &#xff08;服务器多客户端模型&#xff09; 定义&#xff1a;单线程或单进程同时监测若干个文件描述符是否可以执行IO操作的能力 作用&#xff1a;应用程序通常需要处理来自多条事件流中的事件&#xff0c;比如我现在用的电脑&#xff0c;需要同时处理键盘鼠标…...

编程新知 2026/1/31 7:42:50

Web后端基础(基础知识)

BS架构&#xff1a;Browser/Server&#xff0c;浏览器/服务器架构模式。客户端只需要浏览器&#xff0c;应用程序的逻辑和数据都存储在服务端。 优点&#xff1a;维护方便缺点&#xff1a;体验一般 CS架构&#xff1a;Client/Server&#xff0c;客户端/服务器架构模式。需要单独…...

编程新知 2026/2/2 0:52:30

stm32wle5 lpuart DMA数据不接收

配置波特率9600时&#xff0c;需要使用外部低速晶振...

编程新知 2026/2/4 16:29:27

0x-3-Oracle 23 ai-sqlcl 25.1 集成安装-配置和优化

是不是受够了安装了oracle database之后sqlplus的简陋&#xff0c;无法删除无法上下翻页的苦恼。 可以安装readline和rlwrap插件的话&#xff0c;配置.bahs_profile后也能解决上下翻页这些&#xff0c;但是很多生产环境无法安装rpm包。 oracle提供了sqlcl免费许可&#xff0c…...

编程新知 2025/11/27 2:47:09