【差分隐私相关概念】瑞丽差分隐私（RDP）命题4

---

命题4的证明详解（分情况讨论）

背景与设定

• 机制：$f:\mathcal{D}\to \mathcal{R}$ 是由 $n$ 个 $ϵ$-差分隐私机制自适应组合而成。
• 相邻输入：$D$ 和 $D^{\prime }$ 是相邻数据集。
• 目标：证明对任意事件 $S\subseteq \mathcal{R}$，有：
  $$\mathrm{Pr}[f(D)\in S]\le \exp \left(2ϵ\sqrt{n\log (1/\mathrm{Pr}[f(D^{\prime })\in S])}\right)\cdot \mathrm{Pr}[f(D^{\prime })\in S].$$

证明概述

1. Rényi差分隐私（RDP）的组合性：
   根据命题1（RDP的组合性），每个机制的RDP参数为 $(\alpha ,2\alpha {ϵ}^2)$，组合后得到：
   $$D_{\alpha }(f(D)\parallel f(D^{\prime }))\le 2\alpha n{ϵ}^2(\alpha \ge 1).$$

2. 概率保持定理（命题10）：
   对于事件 $S$，若 $Q=\mathrm{Pr}[f(D^{\prime })\in S]$，则：
   $$\mathrm{Pr}[f(D)\in S]\le {\left(\exp (D_{\alpha }(P\parallel Q))\cdot Q\right)}^{(\alpha -1)/\alpha }.$$

---

情况I：$\log (1/Q)\ge {ϵ}^{2}n$

步骤1：选择最优的 $\alpha$
令 $\alpha =\frac{\sqrt{\log (1/Q)}}{ϵ\sqrt{n}}$。

• 验证 $\alpha \ge 1$：
  由 $\log (1/Q)\ge {ϵ}^{2}n$，得：
  $$\alpha =\frac{\sqrt{\log (1/Q)}}{ϵ\sqrt{n}}\ge \frac{\sqrt{{ϵ}^{2}n}}{ϵ\sqrt{n}}=1.$$

步骤2：应用概率保持定理
代入 $D_{\alpha }(P\parallel Q)\le 2\alpha n{ϵ}^2$，得：
$$\mathrm{Pr}[f(D)\in S]\le {\left(\exp (2\alpha n{ϵ}^2)\cdot Q\right)}^{(\alpha -1)/\alpha }.$$

步骤3：展开指数项
对指数部分进行分解：
$$\exp (2\alpha n{ϵ}^2)\cdot Q=\exp \left(2\alpha n{ϵ}^2+\log Q\right).$$
由于 $\log Q=-\log (1/Q)$，令 $L=\log (1/Q)$，则：
$$\exp \left(2\alpha n{ϵ}^2-L\right).$$

步骤4：代入 $\alpha$ 并化简
代入 $\alpha =\sqrt{L}/(ϵ\sqrt{n})$，计算指数部分：
$$2\alpha n{ϵ}^2-L=2\cdot \frac{\sqrt{L}}{ϵ\sqrt{n}}\cdot n{ϵ}^2-L=2ϵ\sqrt{nL}-L.$$
进一步化简：
$$\exp \left(2ϵ\sqrt{nL}-L\right)=\exp \left(L\cdot \left(\frac{2ϵ\sqrt{n}}{\sqrt{L}}-1\right)\right).$$

步骤5：结合 $Q^{1-1/\alpha }$
注意到 $Q^{1-1/\alpha }=\exp \left(-\log (1/Q)\cdot (1-1/\alpha )\right)$，因此最终结果为：
$$\mathrm{Pr}[f(D)\in S]\le \exp \left(2ϵ\sqrt{nL}\right)\cdot Q.$$

---

情况II：$\log (1/Q)<{ϵ}^{2}n$

步骤1：直接验证右边超过1
令 $L=\log (1/Q)$，则 $L<{ϵ}^{2}n$。需证明：
$$\exp \left(2ϵ\sqrt{nL}\right)\cdot Q\ge 1.$$

步骤2：利用基本不等式
由 $\sqrt{nL}\ge L/ϵ$（因 $L<{ϵ}^{2}n$，即 $L/ϵ<ϵn$），得：
$$2ϵ\sqrt{nL}\ge 2L.$$
因此：
$$\exp \left(2ϵ\sqrt{nL}\right)\cdot Q\ge \exp (2L)\cdot e^{-L}=e^L\ge 1(\text{因}L\ge 0).$$

步骤3：结论
由于概率 $\mathrm{Pr}[f(D)\in S]\le 1$，而右边 $\exp \left(2ϵ\sqrt{nL}\right)\cdot Q\ge 1$，原不等式自然成立。

---

关键点总结

1. 情况I：当事件 $S$ 在 $D^{\prime }$ 下的概率 $Q$ 极小时（即 $\log (1/Q)\ge {ϵ}^{2}n$），通过优化选择 $\alpha$，将RDP参数转化为指数形式的上界。
2. 情况II：当 $Q$ 不太小时，直接验证右侧超过1，从而不等式自动成立。
3. 核心技巧：通过RDP的组合性和概率保持定理，结合参数优化（选择 $\alpha$），最终统一了两种情况的结果。