合成数据：好、坏与未整理

原文towardsdatascience.com/synthetic-data-the-good-the-bad-and-the-unsorted-8220de6aac40?sourcecollection_archive---------7-----------------------#2024-01-13关于使用合成数据进行 AI 训练的法律视角https://medium.com/tea.mustac?sourcepost_page---byline--8220de6aac40--------------------------------https://towardsdatascience.com/?sourcepost_page---byline--8220de6aac40-------------------------------- Tea Mustać·发表于 Towards Data Science ·阅读时间 9 分钟·2024 年 1 月 13 日–免责声明这不是另一篇关于利弊的文章合集。https://github.com/OpenDocCN/towardsdatascience-blog-zh-2024/raw/master/docs/img/c9f082dad196502d4d0dcd7679dca8bb.pngAnne Fehres 和 Luke Conroy AI4Media / 更好的 AI 图像 / 人类负责繁重的数据搬运 / CC-BY 4.0合成数据被认为是推动研究、产品开发甚至支持依赖大量数据的整个商业模型的一个有前途的途径特别是在真实数据稀缺、敏感或在法律上存在使用问题的情况下。然而似乎在现有的法律文献中主要由现有的概括性观点引起对合成数据在避免法律雷区和改善 AI 模型方面的实际效用存在很多困惑。这种困惑导致了大量文章提到相同的利弊但从不同的角度出发。而且这些文章有时会交替提到相同的特点。因此例如虽然大多数人似乎都同意可扩展性和增强隐私是依赖合成数据的明确优势但成本既被提到是一个优点[1]也被提到是一个缺点[2]。偏见也是如此合成数据既可以作为减少偏见的一种手段[3]但有时也会导致偏见的放大[4]。这一切都取决于你偶然遇到的文章以及这些文章中考虑的具体情况和场景。最糟糕的是这些文章中的任何一个观点都不是错误的。我们在这里不会尝试做相同的尝试。我们将更倾向于在当前混淆的使用、目的、概念、情况和情境之间画出一些界限以至少有助于澄清现有的混乱。因此我们暂时将事情复杂化以便稍后澄清迷雾。然而在此过程中我们始终会关注隐私问题。毕竟这是我至少可以假装有一些答案并知道自己在说什么的事情。人工智能生成的合成数据至少在法律背景下合成数据最常被分析的优缺点与其在增强隐私保护方面的应用有关。然而在这个背景下合成数据似乎经常与匿名数据或假名数据进行比较甚至等同于它们。这是令人遗憾的因为假名化和匿名化在历史上一直存在误解和滥用。因此关于这两者在隐私和《通用数据保护条例》GDPR背景下的含义并没有真正的共识这使得它们成为糟糕的参考点。但同时因为合成数据是或应该是与这两者完全不同的独立概念所以我们应该尽量避免将其与这两个误解的概念混淆。然而尽管理想情况下我们应当远离这两个误解的概念我们仍然会坚持使用它们。毕竟我们并非生活在真空中所以不妨与之和解。首先合成数据绝不应该是假名数据。因为如果它是那意味着我们没有很好地合成它。其次它通常属于匿名数据的范畴。为什么为了回答这个问题我们先来探讨一下假名化的问题。假名数据是指在没有使用附加信息的情况下无法将数据归属于特定数据主体的数据前提是这些附加信息被分开并安全保存。 [5] 需要记住两点1. 重新识别的可能性仍然存在2. 有人持有解密密钥。这就是为什么假名数据仍被视为个人数据也是为什么合成数据不是假名数据。或者说至少不应该是。另一方面匿名化是将个人数据鼓点变为匿名的过程。 [6] 这意味着匿名数据与任何自然人无关根本不相关或者曾经与某人相关但现在已经被匿名化无法再识别该人。 [7] 在这里有多个需要注意的地方。首先匿名数据也可以指经过处理和匿名化的个人数据。其次匿名数据不再用于识别其原始归属者如果曾经属于某人。至少在今天可用的技术和方法下无法做到。 [8] 第三匿名数据也可以是完全非个人的数据例如天气统计。现在引入合成数据。合成数据是通过人工生成的数据用来再现原始数据的特征和结构。[9] 我们可以将其视为原始数据的某种代理。在这个过程中原始的真实数据不一定是个人数据即使是个人数据新的合成数据无论如何是匿名的因为它是完全虚构的并且不包含或者至少不应该包含其所基于的原始数据。这反过来使得合成仅仅是可能的匿名化技术之一。现在暂时不讨论数据是否能够完全匿名化的问题。 [10] 但这仍然不意味着这两者总是完全相同的。所有这一切都很重要因为既然我们在谈论的应该是匿名数据那么看起来整个隐私辩论实际上完全是没有意义的。因为匿名数据完全不在《通用数据保护条例》GDPR的范围之内。然而我们仍然在讨论它。而且我们这样做并没有错。合成数据是隐私的朋友还是敌人我们在讨论合成数据与隐私之间的关系时首先要考虑的事情是为什么我们只是在某种程度上错了。合成数据必须通过生成得到有时需要基于包含个人数据的数据集来生成。这现在通常是但不一定是通过机器学习模型和深度学习算法来完成的。可能是因为我们在谈论处理和合成大量数据。而且由于无论目的如何识别模式和统计数据是机器学习模型天然擅长的与大多数人类不同。这反过来意味着单单生成合成数据就已经是一个处理操作从法律角度来看这是相关的特别是如果原始数据是个人数据的话。这也意味着关于使用合成数据训练机器学习模型是否有益的常见论点和讨论完全忽视了这个问题的两个关键方面。它们不仅通过将合成数据仅仅与隐私挂钩而过于简化问题而且在大多数情况下忽略了仍然会有模型在处理个人数据以便进行合成。这些方面现在并不是被过度复杂化的边缘问题相反它们对于展开有关合成数据的成熟的对话非常关键无论隐私是否在其中。而且在谈论合成数据时隐私问题往往没有被提及。再次指出合成数据有其独立的生命。它作为一种技术和策略被应用于各种场合包括当真实数据稀缺、敏感或其使用涉及法律问题和不确定性的情形。例如使用合成数据的一个重要目的虽然在公众讨论中很少提及就是在军事背景下训练人工智能系统。在那里合成数据可以用于数据集多样化和数据属性精细控制的目的这两个目的对于提升质量以及缩短训练周期在这一稀缺、难以获取且高度敏感的真实数据领域非常重要。 [11] 你很少在流行文献中看到这些类型的权衡然而它们确实存在并且同样重要甚至在其他背景下也值得考虑。另一方面即使在隐私的背景下提到和关联合成数据我们依然在过度概括事情并混淆了两个不同的基本权利。因为尽管隐私和数据保护在很大程度上有重叠但它们不能作为同义词使用。而且在讨论合成数据的背景下尽管我们通常可以将其作为一种隐私保护技术但在数据保护方面的情况则更为复杂。主要是因为它可能引发的一些问题例如偏差或准确性不足。现在虽然这乍一看可能是件坏事数据保护再次让另一种有前景的方法受阻但这可能仅仅是我们对好老 GDPR 做出了不必要的悲观看法。也就是说这些问题同样困扰着人工智能开发者他们经常提到数据分布偏差、不完整和不准确的数据、噪声缺乏、过度平滑或递归等问题都是在使用合成数据时降低模型性能的因素。无论这个模型最终是否影响到人类没有人愿意使用一个不准确且有偏见的模型。最后这些问题的严重性仍然在很大程度上取决于训练的模型类型及其预定用途。不过这确实意味着律师和人工智能开发者实际上关心的许多问题是一样的只是乍一看不太明显。这是件好事。它意味着我们只需要相互交流共同解决问题。最后思考那么合成数据是朋友还是敌人它既不是也同时是。事实上这里是一个经典的双刃剑例子。合成数据在解决一些现有问题的同时也带来了新的问题。这不仅仅适用于隐私它同样适用于性能目标例如可扩展性和数据增强可能与偏见放大或泛化问题相对立。这并不是让我们放弃或重复那些过于泛化或只聚焦于某个微小点的利弊文章与分析的理由。这种做法也使得任何阅读某篇文章的人都无法看到树后面的森林。在训练机器学习模型的过程中合成数据的效用和适用性将始终取决于具体情况。它将取决于我们需要用于训练模型的数据类型个人数据、受版权保护的数据、高度敏感的数据所需数据的数量、数据的可用性以及模型的预期用途因为不准确或偏见放大在评估信用 worthiness 的模型和优化供应链的模型中的权重是不同的。所以也许我们可以通过回答这些问题来开始任何特定情境然后在更合适的环境中考虑各种现有的权衡。关键要点· 合成数据绝不应为伪匿名数据。· 合成数据应始终保持匿名。· 合成数据不仅仅与隐私有关。· 虽然合成数据始终有助于保护隐私但它也带来了其他数据保护问题。· 隐私和数据保护并非相同的概念。· 一些数据保护问题也恰好是性能问题。这是好事因为这意味着我们所有人至少有时都在尝试解决同一个问题。· 与合成数据相关的所有权衡都非常依赖于具体情境并应在相关背景下进行讨论。https://github.com/OpenDocCN/towardsdatascience-blog-zh-2024/raw/master/docs/img/174cba21e2bb1022f620d3da808fb37f.pngMax Gruber / 更好的人工智能图像 / Ceci n’est pas une banane / CC-BY 4.0[1] 探索合成数据优势与应用场景Intuit Mailchimpmailchimp.com/resources/what-is-synthetic-data/[2] John Anthony R, 关于人工智能——合成数据有一个不为人知的小秘密www.linkedin.com/pulse/when-comes-aisynthetic-data-has-dirty-little-secret-radosta/[3] Michael Yurushkin, 合成数据如何解决人工智能偏见问题Brouton Lab 博客broutonlab.com/blog/ai-bias-solved-with-synthetic-data-generation/[4] Giuffrè, M., Shung, D.L. 在医疗保健中利用合成数据的力量创新、应用和隐私。npj 数字医学61862023。doi.org/10.1038/s41746-023-00927-3[5] GDPR[6] AEDP关于匿名化的 10 个误解edps.europa.eu/system/files/2021-04/21-04-27_aepd-edps_anonymisation_en_5.pdf[7] GDPR 第 26 条说明[8] AEDP关于匿名化的 10 个误解edps.europa.eu/system/files/2021-04/21-04-27_aepd-edps_anonymisation_en_5.pdf[9] Robert Riemann合成数据欧洲数据保护监督员。[10] Alex Hern《“匿名化”数据永远不可能完全匿名研究表明》《卫报》2019 年 7 月 23 日www.theguardian.com/technology/2019/jul/23/anonymised-data-never-be-anonymous-enough-study-findsEmily M Weitzenboeck, Pierre Lison, Malgorzata Cyndecka, Malcolm Langford, GDPR 与非结构化数据匿名化是否可能《国际数据隐私法》第 12 卷第 3 期2022 年 8 月184–206 页doi.org/10.1093/idpl/ipac008[11] H. Deng, 探索用于人工智能和自主系统的合成数据入门指南瑞士日内瓦UNIDIR2023unidir.org/wp-content/uploads/2023/11/UNIDIR_Exploring_Synthetic_Data_for_Artificial_Intelligence_and_Autonomous_Systems_A_Primer.pdf。