LeCun和Bengio“吵”起来了，人工智能是“潘多拉魔盒”吗？

作者 | 谢年年

上周末，深度学习领域最有影响力的三巨头之二Yann LeCun和Yoshua Bengio就AI的潜在风险和安全问题引发了一场激烈辩论，人工智能是“潘多拉魔盒”吗？这场辩论引来众多AI知名人士围观。

LeCun在Facebook上发起了这场辩论，并呼吁那些相信人工智能的力量和可靠性的“沉默大多数”人工智能科学家和工程师发声🔊。

迄今为止沉默的大多数人工智能科学家和工程师 -不要相信人工智能灭绝的场景 —要相信我们有能力让人工智能变得强大、可靠、安全 -我认为最好的方法是通过开源的人工智能平台， 需要大声说出来!

▲image.png

Bengio回应了LeCun的帖子，并发表了不同的看法。Bengio认为应该谨慎看待AI，他认为我们仍然不知道如何设计安全、强大的人工智能系统，并强调需要在人工智能安全和治理方面进行重大投资。他还质疑了将强大的人工智能系统开源这种做法，将其比作自由分发危险武器。

LeCun针对Bengio提出的观点进行了回应，他表示确保AI系统的安全性是必要的，但不必夸大其影响，也无需过度想象可能发生的灾难性情景。他反驳了Bengio关于在AI安全方面的投资的说法，坚称已经有大量的资金正在被投入到确保AI系统安全可靠的工作中。此外，LeCun不同意将AI系统与武器进行比较，他明确表示AI的设计目标是增强人类智能，而不是对人类造成伤害。

微软语义机器研究总监、约翰霍普金斯大学教授Jason Eisner也加入了这场辩论，他支持Bengio将人工智能比作武器。Bengio赞同Eisner的观点，认为虽然我们无法将风险降至零，但可以通过限制对强大人工智能系统的访问来减少潜在的伤害。

One more thing

2019年，LeCun和Bengio与Geoffrey Hinton一起被授予图灵奖，以表彰他们对深度学习和神经网络所做的贡献。然鹅，通过这场辩论可以看到两位曾经深度合作的大牛对于人工智能的潜在风险、当前安全措施的有效性以及最佳发展路径都存在着相当大的分歧。

关于人工智能的辩论不仅仅局限于学术圈，有批判者认为，人工智能不受限制的进展可能导致就业岗位流失、隐私侵犯等风险，而支持者则认为人工智能可能在医疗、教育和其他领域带来前所未有的进步。

这场最新的辩论更加凸显了这些问题的紧迫性，一如当年对互联网快速发展所带来的利与弊的辩论。人工智能的快速发展给社会带来了巨大的机遇和挑战。我们需要深思熟虑地评估其潜在影响，并采取明智的措施来引导人工智能的发展，以确保其对人类社会和个体带来最大的利益。

参考资料

[1]https://venturebeat.com/ai/ai-pioneers-yann-lecun-and-yoshua-bengio-clash-in-an-intense-online-debate-over-ai-safety-and-governance/