AgentBench：：AI智能体发展的潜在问题（二）

从历史上看，几乎每一种新技术的广泛应用都会在带来新机遇的同时引发很多新问题，AI智能体也不例外。从目前的发展看，AI智能体的发展可能带来的新问题可能包括如下方面：

第二是AI智能体的普及将有可能进一步加剧AI造成的技术性失业。在以ChatGPT等为代表的生成式AI横空出世之后，人们对AI替代人的担忧就与日俱增。不过，由于通用大模型本身的特性，它依然有两类工作很难完全胜任：一类是对情绪价值具有要求的工作，比如推销、心理咨询等；二是对专业知识要求非常高的工作，比如法律咨询、医疗诊断等。

然而，AI智能体通过利用个性化和专业化的数据进行训练，其在以上两类工作中的表现已经得到了非常大的跃升。可以想象，如果没有必要的公共政策及时介入，那么技术性失业的问题就可能变得越来越严重。

第三是当AI智能体被广泛应用之后，很可能会导致各种不可测的失控风险。

在《终结者》、《黑客帝国》等众多文艺作品当中，都曾经描述过AI对人类的威胁。过去，这些关于AI毁灭人类、奴役人类的描述可能仅仅是一种幻想。然而，当ChatGPT等大模型出现后，人们惊讶地发现，AI可能确实已经拥有了这样的能力。而当人们进一步将包含自己的个性以及特殊技能的数据训练出了各种AI智能体，并将越来越多的任务交给它们完成时，科幻作品中预言的一切似乎离我们又近了一步。