人工智能应用- 走向未来：02.人工智能研究方向

随着技术的发展以深度神经网络为代表的人工智能技术在取得突破的同时也逐渐暴露出一些基础性问题。这些问题促使科学家们思考人工智能的下一步发展。本节将从几个关键方面探讨当前人工智能的重要研究方向。可解释性与可控性首先人工智能的可信性与可控性问题备受关注。深度学习模型虽然在众多任务中表现优异但由于其“黑箱”特性人们难以理解其决策过程从而影响了模型的透明性和可解释性。此外对抗样本的存在进一步暴露了机器与人类在感知和认知行为上的差异这种潜在的不可预测性可能会带来未知的风险。图:在一张狗的照片上加入人眼难以察觉的噪声深度学习模型将其错误识别为厕纸。这种对人类而言几乎不可见但会导致机器产生错误判断的样本称为“对抗样本”。更值得关注的是当前的大模型技术虽强大但仍存在“幻觉”问题即模型生成的内容可能存在虚假或错误信息。这一问题让研究者深感忧虑因为无法确保大模型生成的信息绝对可靠更无法保证在未来拥有实体形态后不会对人类社会造成不可承受的风险。图:大模型在回答问题时可能出现幻觉。左图是 GPT 对“清华的校歌是什么”的回答右图是真正的清华校歌。标红部分为 ChatGPT 回答错误的信息。此示例源自 2024 年 6 月 28 日 GPT-4o 生成的结果。众多研究者投入到相关研究除了降低幻觉、增加透明性的技术探索也在基础理论上进行了深入思考。例如清华大学张钹教授团队提出的第三代人工智能方案。希望通过融合第一代人工智能知识驱动和第二代人工智能数据驱动的特点综合利用知识、数据、算法和算力这四大要素实现透明、可信的人工智能系统。