当前位置： 首页 > news >正文

论文速读：Do Generated Data Always Help Contrastive Learning?

news 2026/2/9 10:06:09
  • 在对比学习领域，最近很多研究利用高质量生成模型来提升对比学习
    • 给定一个未标记的数据集，在其上训练一个生成模型来生成大量的合成样本，然后在真实数据和生成数据的组合上执行对比学习
    • 这种使用生成数据的最简单方式被称为“数据膨胀”
    • 这与数据增强过程正交，其中无论是原始还是生成的图像都会经过手动增强以产生在对比学习中使用的正负样本对

  • 论文发现：生成的数据并不总是有利于对比学习
    • 仅仅将CIFAR-10通过DDPM生成的100万图像进行数据膨胀，反而导致线性探测精度更差

  • ——>论文从两个方面调查这种意外的性能下降
    • 数据膨胀（如何构建膨胀数据）
      • 更好的生成质量帮助有限，而重新加权真实数据和生成数据可以获得更大的收益
    • 数据增强（如何使用膨胀数据制作增强样本）
      • 尽管在标准对比学习中有害，但较弱的数据增强与数据膨胀结合使用时可以非常有益
  • ——》建立了第一个针对膨胀对比学习的普遍性保证，并通过揭示数据膨胀和数据增强之间的互补作用来解释弱增强的好处
  • 基于这些见解，论文提出了一种自适应膨胀（AdaInf）策略，该策略可以自适应调整数据增强的强度和混合比例，从而在不增加任何计算开销的情况下显著提高下游性能

相关文章：

论文速读：Do Generated Data Always Help Contrastive Learning?

在对比学习领域，最近很多研究利用高质量生成模型来提升对比学习 给定一个未标记的数据集，在其上训练一个生成模型来生成大量的合成样本，然后在真实数据和生成数据的组合上执行对比学习这种使用生成数据的最简单方式被称为“数据膨胀”这与数据…...

编程日记 2024/4/16 1:53:55

华为欧拉系统（openEuler-22.03）安装深信服EasyConnect软件（图文详解）

欧拉镜像下载安装 iso镜像官网下载地址 选择最小化安装，标准模式 换华为镜像源 更换华为镜像站，加速下载： sed -i "s#http://repo.openeuler.org#https://mirrors.huaweicloud.com/openeuler#g" /etc/yum.repos.d/openEuler.r…...

编程日记 2024/4/16 1:50:51

git commit --amend用法

一、git commit --amend 修改提交信息：您可以使用 git commit --amend 命令来修改最新提交的提交信息。执行该命令后，Git 将会打开文本编辑器（通常是的默认文本编辑器），以便编辑提交信息。完成编辑后保存并关闭编辑器…...

编程日记 2024/4/16 1:47:48

分布式系统：缓存与数据库一致性问题

前言 缓存设计是应用系统设计中重要的一环，是通过空间换取时间的一种策略，达到高性能访问数据的目的；但是缓存的数据并不是时刻存在内存中，当数据发生变化时，如何与数据库中的数据保持一致，以满足业务系统…...

编程日记 2024/4/16 1:43:45

JavaEE企业开发新技术5

目录 2.18 综合应用-1 2.19 综合应用-2 2.20 综合应用-3 2.21 综合应用-4 2.22 综合应用-5 Synchronized ： 2.18 综合应用-1 反射的高级应用 DAO开发中，实体类对应DAO的实现类中有很多方法的代码具有高度相似性，为了提供代码的复用性,降低…...

编程日记 2024/4/16 1:42:43

mysql dump导出导入数据

前言 mysqldump是MySQL数据库中一个非常有用的命令行工具，用于备份和还原数据库。它可以将整个数据库或者特定的表导出为一个SQL文件，以便在需要时进行恢复或迁移。 使用mysqldump可以执行以下操作： 备份数据库：可以使用mysqld…...

编程日记 2024/4/16 1:41:42

刷题记录3

# 10 字符个数统计 描述 编写一个函数，计算字符串中含有的不同字符的个数。字符在 ASCII 码范围内( 0~127 ，包括 0 和 127 )，换行表示结束符，不算在字符里。不在范围内的不作统计。多个相同的字符只计算一次 例如，对…...

编程日记 2024/4/16 1:40:41

Decorator 装饰

意图 动态的给一个对象添加一些额外的职责。就增加功能而言，Decorator模式比生成子类更加灵活 结构 其中： Component定义一个对象接口，可以给这些对象动态的添加职责。ConcreteComponent定义一个对象，可以给这个对象添加一些职…...

编程日记 2024/4/16 1:39:40

SpringMVC：搭建第一个web项目并配置视图解析器

👉需求：用spring mvc框架搭建web项目，通过配置视图解析器达到jsp页面不得直接访问，实现基本的输出“hello world”功能。👩‍💻👩‍💻👩‍💻 1 创建web项目 1…...

编程日记 2024/4/16 1:34:35

一文了解HTTPS的加密原理

HTTPS是一种安全的网络通信协议，用于在互联网上提供端到端的加密通信，确保数据在客户端（如Web浏览器）与服务器之间传输时的机密性、完整性和身份验证。HTTPS的加密原理主要基于SSL/TLS协议，以下详细阐述其工作过程&…...

编程日记 2024/4/16 1:33:34

Ubuntu系统空间整理

查看文件大小命令 查看文件以及文件夹大小 ls -hl #查看文件大小，-h 表示Human-Readable ll -h #查看文件夹的大小 #du命令查看文件或文件夹的磁盘使用空间，–max-depth 用于指定深入目录的层数。#查看当前目录已经使用总大小及当前目录下一级文件或…...

编程日记 2024/4/16 1:29:29

PHP Storm 2024.1使用

本文讲的是phpstorm 2024.1最新版本激活使用教程，本教程适用于windows操作系统。 1.先去idea官网下载phpstorm包，我这里以2023.2最新版本为例 官网地址：https://www.jetbrains.com/zh-cn/phpstorm/ 2.下载下来后安装，点下一步 …...

编程日记 2024/4/16 1:28:28

王东岳-知鱼之乐【边读边记】1

2024-04-15 21:00 终于打算开始读这本书了，作者王东岳，第一次听到这个名字，是因为传说王东岳是李善友的师父，我是先从混沌学院知道的李善友，因为李善友还是有东西的，所以我对王东岳起步也是非常尊敬的。所以…...

编程日记 2024/4/16 1:26:26

迁移docker部署的GitLab

目录 1. 背景2. 参考3. 环境4. 过程4.1 查看原docker启动命令4.2 打包挂载目录传至新宿主机并创建对应目录4.3 保存镜像并传至新宿主机下4.4 新宿主机启动GitLab容器 5 故障5.1 容器不断重启5.2 权限拒绝5.3 容器内错误日志 6 重启容器服务正常7 总结 1. 背景 最近接到一个任务…...

编程日记 2024/4/16 1:21:21

今年消费新潮流：零元购商业模式

今天给大家推荐一种极具创新的电子商务模式：零元购商业模式 这个模式支持消费者以零成本或极低成本购买商品。这种模式主要通过返现、积分、优惠券等方式来减少支付金额，使消费者实现“零成本”购物的目标。 人民网在去年发表了一篇文章。 总结了一下&a…...

编程日记 2024/4/16 1:16:17

Go导入私有仓库

使用go.mod依赖第三方库时，有以下要求： 代码仓库托管于VCS(版本控制系统)；代码仓库是公开的；仓库地址使用域名访问；仓库域名支持HTTPS访问。 对于自己或者公司内部搭建的私有git，这些条件是比较难同时满足…...

编程日记 2024/4/16 1:12:13

GIS GeoJSON数据获取

1、工具地址 DataV.GeoAtlas地理小工具系列 2、界面预览...

编程日记 2024/4/16 1:11:12

书生·浦语大模型实战营 | 第3次学习笔记

前言 书生浦语大模型应用实战营 第二期正在开营，欢迎大家来学习。（参与链接：https://mp.weixin.qq.com/s/YYSr3re6IduLJCAh-jgZqg 第三堂课的视频链接：https://www.bilibili.com/video/BV1QA4m1F7t4/ 本次笔记是学习完第三堂课…...

编程日记 2024/4/16 1:10:11

easyExcel - 按模板导出

目录 前言一、情景介绍二、文档介绍2.1 读取模板2.2 填充模板 三、代码示例3.1 案例一：工资表3.2 案例二：报价单 四、我所遇到的问题 前言 Java-easyExcel入门教程：https://blog.csdn.net/xhmico/article/details/134714025 之前有介绍过如…...

编程日记 2024/4/16 1:09:10

使用 Tranformer 进行概率时间序列预测实战

使用 Transformers 进行概率时间序列预测实战 通常，经典方法针对数据集中的每个时间序列单独拟合。然而，当处理大量时间序列时，在所有可用时间序列上训练一个“全局”模型是有益的，这使模型能够从许多不同的来源学习潜在的表示。…...

编程日记 2024/4/16 1:06:06

【OSG学习笔记】Day 18: 碰撞检测与物理交互

物理引擎（Physics Engine） 物理引擎 是一种通过计算机模拟物理规律（如力学、碰撞、重力、流体动力学等）的软件工具或库。 它的核心目标是在虚拟环境中逼真地模拟物体的运动和交互，广泛应用于 游戏开发、动画制作、虚…...

编程新知 2026/2/4 2:08:30

【WiFi帧结构】

文章目录 帧结构MAC头部管理帧 帧结构 Wi-Fi的帧分为三部分组成：MAC头部frame bodyFCS，其中MAC是固定格式的，frame body是可变长度。 MAC头部有frame control，duration，address1，address2，addre…...

编程新知 2026/2/7 17:33:19

Docker 运行 Kafka 带 SASL 认证教程

Docker 运行 Kafka 带 SASL 认证教程 Docker 运行 Kafka 带 SASL 认证教程一、说明二、环境准备三、编写 Docker Compose 和 jaas文件docker-compose.yml代码说明：server_jaas.conf 四、启动服务五、验证服务六、连接kafka服务七、总结 Docker 运行 Kafka 带 SASL 认…...

编程新知 2026/1/23 4:15:03

解决Ubuntu22.04 VMware失败的问题 ubuntu入门之二十八

现象1 打开VMware失败 Ubuntu升级之后打开VMware上报需要安装vmmon和vmnet，点击确认后如下提示 最终上报fail 解决方法 内核升级导致，需要在新内核下重新下载编译安装 查看版本 $ vmware -v VMware Workstation 17.5.1 build-23298084$ lsb_release…...

编程新知 2026/1/24 10:07:40

解锁数据库简洁之道：FastAPI与SQLModel实战指南

在构建现代Web应用程序时，与数据库的交互无疑是核心环节。虽然传统的数据库操作方式（如直接编写SQL语句与psycopg2交互）赋予了我们精细的控制权，但在面对日益复杂的业务逻辑和快速迭代的需求时，这种方式的开发效率和可…...

编程新知 2025/8/13 16:42:24

现代密码学 | 椭圆曲线密码学—附py代码

Elliptic Curve Cryptography 椭圆曲线密码学（ECC）是一种基于有限域上椭圆曲线数学特性的公钥加密技术。其核心原理涉及椭圆曲线的代数性质、离散对数问题以及有限域上的运算。 椭圆曲线密码学是多种数字签名算法的基础，例如椭圆曲线数字签…...

编程新知 2026/2/6 7:30:33

OpenPrompt 和直接对提示词的嵌入向量进行训练有什么区别

OpenPrompt 和直接对提示词的嵌入向量进行训练有什么区别 直接训练提示词嵌入向量的核心区别 您提到的代码： prompt_embedding = initial_embedding.clone().requires_grad_(True) optimizer = torch.optim.Adam([prompt_embedding...

编程新知 2025/7/4 0:50:01

SiFli 52把Imagie图片，Font字体资源放在指定位置，编译成指定img.bin和font.bin的问题

分区配置 (ptab.json) img 属性介绍： img 属性指定分区存放的 image 名称，指定的 image 名称必须是当前工程生成的 binary 。 如果 binary 有多个文件，则以 proj_name:binary_name 格式指定文件名， proj_name 为工程 名&…...

编程新知 2026/1/23 10:51:19

论文笔记——相干体技术在裂缝预测中的应用研究

目录 相关地震知识补充地震数据的认识地震几何属性 相干体算法定义基本原理第一代相干体技术：基于互相关的相干体技术（Correlation）第二代相干体技术：基于相似的相干体技术（Semblance）基于多道相似的相干体…...

编程新知 2026/2/7 1:51:12

stm32wle5 lpuart DMA数据不接收

配置波特率9600时，需要使用外部低速晶振...

编程新知 2026/2/4 16:29:27