当前位置： 首页 > article >正文

双重机器学习DML介绍

article 2026/4/14 3:57:48
本文参考[1]我在开始团做运筹_DML一、核心原理与数学框架双重机器学习Double Machine Learning, DML由Chernozhukov等学者于2018年提出是一种结合机器学习与传统计量经济学的因果推断框架。其核心目标是在高维数据和非线性关系下无偏估计处理变量如政策、治疗对结果变量如收入、健康的因果效应。结果变量和处理变量分别对协变量进行回归然后用两者的残差进行最终回归以排除协变量的混杂影响。1. 基本模型设定DML框架可以应用于多种因果模型最常见的是部分线性回归Partially Linear Regression, PLR模型2. 核心步骤两阶段残差回归步骤一正交化去偏这是Neyman正交性的实现步骤。首先通过机器学习模型分别对结果变量和处理变量建模然后将各自的预测值从实际观测值中减去得到残差。这一过程剥离了协变量的混杂影响使得后续估计更加纯净。步骤二交叉拟合这是DML的另一项关键技术主要用于避免第一阶段机器学习模型过拟合带来的偏差。3. 关键技术交叉拟合与正交化4.DML的优势处理高维数据通过机器学习自动筛选重要协变量避免“维度诅咒”。非线性关系建模支持随机森林、神经网络等非线性模型适应复杂数据结构。稳健性交叉拟合和正交化技术降低过拟合风险确保估计无偏。二、DML无偏的数学原理1.数学框架部分线性模型PLRDML的核心基于以下部分线性模型2. 正交化剥离协变量影响步骤1残差化处理步骤2残差回归3. Cross-fitting交叉拟合4.Neyman正交性对模型偏误不敏感5. 关键点总结正交化通过残差化剥离协变量X的影响确保T~ 和 Y~ 与X正交。交叉拟合避免过拟合提高估计的稳健性。Neyman正交性对第一阶段模型偏误不敏感保证无偏性。机器学习灵活性支持非线性模型如随机森林、神经网络适应复杂数据结构。三、DML的双重稳健体现双重机器学习DML的“双重稳健”性体现在其对两种独立误差来源的稳健性以及通过正交化与交叉拟合技术实现的双重保障。以下是具体体现对第一阶段模型偏误的稳健性即使第一阶段模型存在误差只要满足正交性条件第二阶段估计仍无偏。对模型选择的稳健性无论使用线性还是非线性模型只要正确应用正交化和交叉拟合估计量都是无偏的。交叉拟合的双重保障通过样本分割和交叉验证避免过拟合并提高稳健性。3.1.对第一阶段模型偏误的稳健性DML的核心思想是通过两阶段残差回归剥离协变量X的影响。其双重稳健性首先体现在即使第一阶段模型用于拟合Y和T关于X的预测值存在误差只要满足正交性条件第二阶段的估计仍能保持无偏。3.2.对模型选择的稳健性DML的双重稳健性还体现在无论使用线性模型还是非线性机器学习模型只要正确应用正交化和交叉拟合估计量都是无偏的。3.3.交叉拟合的双重保障DML通过交叉拟合Cross-fitting技术进一步强化了稳健性3.4.数学证明Neyman正交性DML的双重稳健性可严格证明为Neyman正交性四、Neyman正交Neyman正交性Neyman Orthogonality是统计学和计量经济学中的一个核心概念尤其在因果推断和双重机器学习DML中扮演关键角色。其核心思想是确保估计量对第一阶段模型偏误不敏感从而保证估计的无偏性。以下是详细解释4.1.定义与数学表达4.2.核心意义Neyman正交性确保了以下两点4.3.在DML中的作用在双重机器学习中Neyman正交性通过以下步骤实现4.4.直观理解Neyman正交性可理解为一种“双重保护”总结Neyman正交性是双重机器学习DML无偏性的核心数学保障。它通过要求估计量对第一阶段模型的偏误“不敏感”并结合正交化和交叉拟合技术确保了在高维数据和非线性场景下因果效应的准确估计。

相关文章：

双重机器学习DML介绍

本文参考： [1]我在开始团做运筹_DML 一、核心原理与数学框架 双重机器学习（Double Machine Learning, DML）由Chernozhukov等学者于2018年提出，是一种结合机器学习与传统计量经济学的因果推断框架。其核心目标是在高维数据和非线…...

编程日记 2026/4/14 3:57:48

Rocket.Chat终极安全指南：区块链技术如何重塑企业通信安全

Rocket.Chat终极安全指南：区块链技术如何重塑企业通信安全 【免费下载链接】Rocket.Chat The Secure CommsOS™ for mission-critical operations 项目地址: https://gitcode.com/GitHub_Trending/ro/Rocket.Chat Rocket.Chat是一款开源、安全且完全可定制的…...

编程日记 2026/4/14 3:55:46

2026奇点大会AIAgent自动驾驶核心白皮书首发（仅限前500名技术决策者获取）

第一章：2026奇点智能技术大会：AIAgent自动驾驶概览 2026奇点智能技术大会(https://ml-summit.org) 在2026奇点智能技术大会上，AIAgent自动驾驶系统首次以全栈协同架构形态公开演示，标志着从感知决策分离模型向多智能体协同推理范…...

编程日记 2026/4/14 3:55:45

50ms消息响应革命：Rocket.Chat边缘计算部署实战指南

50ms消息响应革命：Rocket.Chat边缘计算部署实战指南 【免费下载链接】Rocket.Chat The Secure CommsOS™ for mission-critical operations 项目地址: https://gitcode.com/GitHub_Trending/ro/Rocket.Chat 你是否还在忍受跨国团队消息延迟超过3秒&#xff1…...

编程日记 2026/4/14 3:55:45

Rocket.Chat移动端终极优化指南：打造完美响应式聊天体验

Rocket.Chat移动端终极优化指南：打造完美响应式聊天体验 【免费下载链接】Rocket.Chat The Secure CommsOS™ for mission-critical operations 项目地址: https://gitcode.com/GitHub_Trending/ro/Rocket.Chat 在当今移动优先的数字时代，Rocket.…...

编程日记 2026/4/14 3:55:40

ESP32-CAM的SD卡能跑多快？实测SDMMC 4线模式下的文件读写性能与优化

ESP32-CAM SD卡性能深度优化：从SDMMC配置到文件系统选型实战 在物联网边缘计算场景中，ESP32-CAM凭借其出色的图像采集能力和紧凑的硬件设计，成为众多嵌入式视觉项目的首选。然而当涉及到持续拍摄高分辨率图像或长时间记录传感器数据时&#x…...

编程日记 2026/4/14 3:55:28

专知智库白皮书（一）：什么是余行税？企业隐形生存税的定义与本质

专知智库白皮书（一）：什么是余行税？企业隐形生存税的定义与本质在红海竞争加剧、经济周期波动、技术迭代加速的今天，企业面临的最大威胁往往不是效率低下，而是方向迷失。传统的管理工具解决“做得快不快”&a…...

编程日记 2026/4/14 3:53:28

SopCastComponent实战案例：构建你的第一个Android直播应用

SopCastComponent实战案例：构建你的第一个Android直播应用 【免费下载链接】SopCastComponent 该项目不再维护，仅供学习参考 项目地址: https://gitcode.com/gh_mirrors/so/SopCastComponent SopCastComponent是一个强大的Android直播开发框架&am…...

编程日记 2026/4/14 3:53:28

iOS YYKline核心组件解析：Model、Painter与Config架构设计

iOS YYKline核心组件解析：Model、Painter与Config架构设计 【免费下载链接】YYKline iOS YYKline：Kline、Chart、Volume、Scroll、Scale、MACD、KDJ、K线图、分时图... 项目地址: https://gitcode.com/gh_mirrors/yy/YYKline iOS YYKline是一个功…...

编程日记 2026/4/14 3:53:27

SlateDB范围查询优化技巧：实现高效数据扫描的5个关键策略

SlateDB范围查询优化技巧：实现高效数据扫描的5个关键策略 【免费下载链接】slatedb A cloud native embedded storage engine built on object storage. 项目地址: https://gitcode.com/gh_mirrors/sl/slatedb SlateDB作为一款云原生嵌入式存储引擎&#xff…...

编程日记 2026/4/14 3:53:26

革命性监控工具ebpf_exporter：深度解析内核性能的终极指南

革命性监控工具ebpf_exporter：深度解析内核性能的终极指南 【免费下载链接】ebpf_exporter Prometheus exporter for custom eBPF metrics 项目地址: https://gitcode.com/gh_mirrors/eb/ebpf_exporter ebpf_exporter是一款基于eBPF技术的Prometheus exporte…...

编程日记 2026/4/14 3:53:15

如何在Android应用中集成AnimationEasingFunctions：5分钟快速开始教程

如何在Android应用中集成AnimationEasingFunctions：5分钟快速开始教程 【免费下载链接】AnimationEasingFunctions Android Animation Easing Functions. Lets make animation more real! 项目地址: https://gitcode.com/gh_mirrors/an/AnimationEasingFunctions …...

编程日记 2026/4/14 3:51:15

LFSR在数字电路中的伪随机数生成原理与实践

1. 线性反馈移位寄存器（LFSR）基础入门 第一次接触LFSR这个概念时，我完全被这个高大上的名字唬住了。后来在实际项目中才发现，它其实就是个带反馈回路的移位寄存器。想象一下工厂流水线上的传送带，物品从一端进入&#…...

编程日记 2026/4/14 3:51:15

从Java转AI Agent：3个月学习路线与求职经验

现在Agent这行真的属于窗口期拉满，而且是全新的领域，新到学校里教不出来，清华的学生和你一样，都是自学加摸着石头过河，因此你是双非本也好，985硕也好，都是同一起跑线，也都是一套入门…...

编程日记 2026/4/14 3:51:15

RISC-V验证终极指南：深度解析随机指令生成器核心技术

RISC-V验证终极指南：深度解析随机指令生成器核心技术 【免费下载链接】riscv-dv Random instruction generator for RISC-V processor verification 项目地址: https://gitcode.com/gh_mirrors/ri/riscv-dv RISC-V作为开源指令集架构的领军者，其生…...

编程日记 2026/4/14 3:51:15

GD32L23X深度睡眠模式实战：从理论到15uA超低功耗的实现

1. GD32L23X深度睡眠模式的核心价值 对于需要电池供电的物联网终端设备来说，功耗就是生命线。我去年做过一个环境监测传感器项目，使用纽扣电池供电，客户要求至少工作3年不换电池。当时测试了市面上多款MCU，最终GD32L23X的Deep-Sle…...

编程日记 2026/4/14 3:51:14

5篇2章10节：诊断试验准确性研究与多阈值Meta分析方法（上篇：基本概念）

在现代医学研究中，诊断试验不仅用于疾病识别，更直接影响临床决策路径与医疗资源配置。随着生物标志物检测、影像学技术及自动化诊断系统的发展，如何科学评价诊断工具的准确性，已成为循证医学中的核心问题之一。诊断准确性研究（Diagnostic Test Accuracy, DTA）正是在这一背…...

编程日记 2026/4/14 3:49:14

如何从Ralph的progress.txt日志中提取开发洞察：完整指南

如何从Ralph的progress.txt日志中提取开发洞察：完整指南 【免费下载链接】ralph Ralph is an autonomous AI agent loop that runs repeatedly until all PRD items are complete. 项目地址: https://gitcode.com/GitHub_Trending/ralph1/ralph Ralph是一个…...

编程日记 2026/4/14 3:49:14

Altdns实战案例：如何利用大规模数据集发现关键子域名

Altdns实战案例：如何利用大规模数据集发现关键子域名 【免费下载链接】altdns Generates permutations, alterations and mutations of subdomains and then resolves them 项目地址: https://gitcode.com/gh_mirrors/al/altdns Altdns是一款强大的DNS侦察工…...

编程日记 2026/4/14 3:49:14

Laravel Page Speed 高级技巧：自定义中间件与性能监控

Laravel Page Speed 高级技巧：自定义中间件与性能监控 【免费下载链接】laravel-page-speed Package to optimize your site automatically which results in a 35% optimization. Laravel Page Speed delivers an end-to-end optimization pipeline for Blade-rend…...

编程日记 2026/4/14 3:48:59

SkyReels V1与主流视频生成模型全面对比分析：为什么它是开源视频生成的终极选择

SkyReels V1与主流视频生成模型全面对比分析：为什么它是开源视频生成的终极选择 【免费下载链接】SkyReels-V1 SkyReels V1: The first and most advanced open-source human-centric video foundation model 项目地址: https://gitcode.com/gh_mirrors/sk/SkyRee…...

编程日记 2026/4/14 3:48:41

Hugging Face下载卡住，下载缓慢，设置国内镜像hf-mirror.com

# 国内镜像加速，解决下载超时/失败问题export HF_ENDPOINThttps://hf-mirror.com可以写到 ~/.bashrc文件里source ~/.bashrc...

编程日记 2026/4/14 3:46:43

数据科学与机器学习实践：从数据到价值

数据科学与机器学习实践：从数据到价值 1. 背景介绍 数据科学和机器学习是当今技术领域最热门的话题之一，它们正在改变各行各业的运作方式。数据科学通过从大量数据中提取有价值的信息，帮助企业做出更明智的决策；机器学习则通过算法…...

编程日记 2026/4/14 3:46:32

百川2-13B-4bits量化大模型多场景落地：教育机构智能助教、IT团队代码协作者

百川2-13B-4bits量化大模型多场景落地：教育机构智能助教、IT团队代码协作者 1. 引言：当大模型走进日常，它能做什么？ 如果你是一家教育机构的老师，每天要备课、答疑、批改作业，还要处理各种行政事务&#…...

编程日记 2026/4/14 3:46:22

全栈开发新趋势与技术栈：构建现代化应用

全栈开发新趋势与技术栈：构建现代化应用 1. 背景介绍 全栈开发是指开发者能够同时处理前端和后端的开发工作，成为连接用户界面和服务器逻辑的桥梁。随着技术的快速发展，全栈开发的内涵和技术栈也在不断演变。现代全栈开发不仅要求开发者掌握多…...

编程日记 2026/4/14 3:45:37

3个必知技巧：快速上手AI-Render插件，轻松实现Blender中的AI艺术创作

3个必知技巧：快速上手AI-Render插件，轻松实现Blender中的AI艺术创作 【免费下载链接】AI-Render Stable Diffusion in Blender 项目地址: https://gitcode.com/gh_mirrors/ai/AI-Render AI-Render是一款强大的Blender插件，它将Stable …...

编程日记 2026/4/14 3:44:53

基于Simulink的晶闸管直流开环调速系统建模与动态特性分析

1. 晶闸管直流开环调速系统基础认知 第一次接触晶闸管直流调速系统时，我被那一堆专业术语搞得头晕——什么"三相全控整流"、"同步触发器"、"移相控制角"，听着就像天书。但实际拆解后发现，这套系统本质上就是个…...

编程日记 2026/4/14 3:42:46

Termwind媒体查询实战：打造终端自适应布局的终极指南

Termwind媒体查询实战：打造终端自适应布局的终极指南 【免费下载链接】termwind 🍃 In short, its like Tailwind CSS, but for the PHP command-line applications. 项目地址: https://gitcode.com/gh_mirrors/te/termwind 在PHP命令行应用开发…...

编程日记 2026/4/14 3:42:45

SharpCompress加密功能详解：保护压缩文件安全的最佳实践

SharpCompress加密功能详解：保护压缩文件安全的最佳实践 【免费下载链接】sharpcompress SharpCompress is a fully managed C# library to deal with many compression types and formats. 项目地址: https://gitcode.com/gh_mirrors/sh/sharpcompress Shar…...

编程日记 2026/4/14 3:42:45

Chrome Extension CLI完整指南：如何创建4种不同类型的浏览器扩展

Chrome Extension CLI完整指南：如何创建4种不同类型的浏览器扩展 【免费下载链接】chrome-extension-cli 🚀 The CLI for your next Chrome Extension 项目地址: https://gitcode.com/gh_mirrors/ch/chrome-extension-cli Chrome Extension CLI是…...

编程日记 2026/4/14 3:42:45