信息科技伦理与道德3：智能决策

1 概述

1.1 发展历史

1950s-1980s：人工智能的诞生与早期发展热潮

• 1950年：图灵发表了一篇划时代的论文，并提出了著名的“图灵测试”；
• 1956年：达特茅斯会议首次提出“人工智能”概念；
• 1956年-20世纪70年代：符号主义/早期推理系统/早期神经网络/专家系统；
• 六十年代初：国际象棋程序的棋力已经可以挑战具有相当水平的业余爱好者。游戏AI一直被认为是评价AI进展的一种标准。

20世纪80年代-21世纪初：统计学派/机器学习/早期神经网络（模式识别）

• “AI之冬”之后，语音识别领域统计学派逐渐取代专家系统。
• 九十年代Boosting, SVM等经典机器学习算法相继提出。
• 1997年IBM的超级计算机“DeepBlue” 战胜国际象棋世界冠军卡斯帕罗夫。
• 1998年LeCun提出LeNet，成为了后续卷积神经网络(CNN)的雏形。

21世纪初-2017年：人工神经网络大放光彩

• 2006年Hinton提出神经网络深度学习算法，使神经网络的能力大大提高，开启了深度学习在学术界和工业界的浪潮。
• 深度学习被普遍应用于计算机视觉、语音识别、机器翻译等领域，在某些领域预测的准确率超越人类。

2017年-至今：“深度强化学习”崛起

• 2017年5月：AlphaGo3:0战胜围棋八冠王柯洁
• 2018年12月：Deepmind AlphaZero–击败国际象棋、将棋与围棋等多个领域的顶尖高手
• 2021年7月：DeepMind AlphaFold–准确预测人类蛋白质组的结构，得到的数据集涵盖人类蛋白质组近60%氨基酸的结构位置预测，且预测结构具有可信度。
• 2022年2月：DeepMind/瑞士洛桑联邦理工学院 EPFL Nature 论文 深度强化学习算法控制核聚变 （成功地用强化学习控制核聚变反应堆内过热的等离子体。）

发展历史总览：

1.2 主流方法

传统人工智能方法

• 符号主义： 主要原理为符号物理系统（即符号操作系统）假设和有限合理性原理；
• 知识图谱：知识表征和知识推理；
• 专家系统：智能计算机程序系统，其内部含有大量的某个领域专家水平的知识与经验，能够利用人类专家的知识和解决问题的方法来处理该领域问题。

机器学习

传统机器学习：

• 监督学习：线性回归、逻辑回归、决策树、朴素贝叶斯、支持向量机、随机森林、K-近邻、神经网络；
• 非监督学习：K-means、主成分分析（PCA）、DBSCAN、异常检查（AD）。

非传统机器学习：

• 强化学习（RL）
• 迁移学习（TL）
• 深度学习（DL）
  – 深度神经网络（DNN）
  – 循环神经网络（RNN）
  – 卷积神经网络（CNN）

深度学习

强化学习
描述和解决智能体在与环境的交互过程中学习策略以达到回报最大或实现特定目标的问题。
强化学习通过学习最优策略，可以让智能体在特定环境中，根据当前状态，做出行动，从而获得最大回报。
强化学习的常见模型是标准的马尔科夫决策过程。

2 现存问题

2.1 智能识别

案例一：亚马逊面部识别系统事件剖析

事件：亚马逊面部识别系统 Rekognition 将 28 名议员识别为犯罪分子。

测试组织：北加州美国公民自由联盟

测试方法：

• 建立 2.5 万张公开罪犯照片数据库。
• 提交国会参众两院所有现任议员照片进行匹配测试。

惊人结果
数据呈现：28 名议员被误识别。
议员画像：

• 来自各州、党派、年龄段多样。
• 性别比例：仅 1 名女性。
• 种族分布：有色人种占 39%，6 人来自国会黑人同盟，对比整体国会议员中有色人种 20% 占比，突出差异。

潜在危害
执法偏见：若执法部门用此系统，警察执法前可能对有色人种等群体产生偏见。
配文图片：一张警察街头执法，配上带有疑虑眼神看向路人的插画，旁边文字阐述可能的误判场景。
严重后果：民众可能失去自由、生命，举一些历史上因误判导致悲剧的简略案例。

亚马逊回应
回应要点：质疑测试方法，强调 80% 相似度设为匹配门槛过低，认为执法应设 95% 或更高信任度。
引用原文：展示亚马逊官方回应的关键语句截图，并加以标注解释。

亚马逊面部识别系统工作原理

• 图像采集：通过摄像头等设备捕捉人脸图像，这些设备可以是安防监控摄像头、手机前置摄像头等，采集到的图像会转化为数字信息，为后续处理做准备。
• 面部特征提取：系统会自动定位人脸关键部位，如眼睛、鼻子、嘴巴等，进而提取这些部位的特征点，形成独一无二的面部特征向量，就好比每个人都有独特的指纹一样，面部也有独特的 “特征密码”。
• 特征比对与匹配：将提取的面部特征向量与数据库中的已知人脸特征数据进行比对，计算相似度得分，当相似度达到预设阈值，便判定为匹配。例如本次事件中，测试方设置 80% 相似度为匹配标准，而亚马逊认为执法场景需 95% 或更高。
• 图文示意：用步骤分解图，配以简单的设备、人脸部位标注图示，展示整个工作流程，让观众一目了然。

后续影响与呼吁
社会反响：引发对面部识别系统准确性、可靠性质疑，民众对隐私与公民权利担忧升温。
呼吁行动：美国公民自由联盟呼吁国会暂停面部识别执法，展示相关呼吁海报图片或文字报道截图。

总结与思考

• 总结事件：回顾整个事件脉络，从测试到结果、各方反应。
• 思考展望：提出对面部识别技术发展的思考，如规范、监管等方向，引导观众进一步探索。

2.2 智能推荐

2.3 智能控制