AI 幻觉与可信度：大模型的阿喀琉斯之踵

系列：每日 AI 知识点期数：第 03 期主题：AI 幻觉与可信度难度：⭐⭐（入门）一句话：AI 会一本正经地"编造"答案。了解幻觉的成因和类型，学会判断什么时候该信任 AI，是安全使用 AI 的必修课。一、什么是 AI 幻觉？2023年，美国律师 Steven Schwartz 在一起航空公司诉讼案中，使用 ChatGPT 辅助撰写法庭文件。AI 给他提供了 6 条"判例"，每条都有完整的案号、法院名称、判决日期、详细的判决内容——看起来非常专业可信。结果，对方律师发现这 6 条判例一条都不存在，全是 AI 凭空捏造的。Schwartz 被法官传唤，被迫公开道歉，面临吊销执照的处罚。这件事引发了全球法律界对 AI 幻觉的广泛关注。这就是 AI 幻觉（Hallucination）：AI 以极其自信的语气，生成完全错误甚至凭空捏造的信息。🧠为什么 AI 会幻觉？LLM 的本质是"预测下一个最可能出现的词"。它的目标是生成听起来合理的文字序列，而不是保证信息正确。当它不知道答案时，它不会说"我不知道"，而是生成一个"在统计上最像正确答案"的内容。二、幻觉的 5 种类型类型一：事实捏造（最危险）特征：编造不存在的事实、人物、论文、法律条文案例集锦：上文提到的美国律师案（虚构判例）某记者让 AI 生成参考文献，AI 给出了 20 篇"论文"，其中 12 篇不存在某公司让 AI 写竞品分析，AI 编造了竞品公司的"内部数据"识别方法：对任何具体引用（论文、案例、数据来源）都要独立核实类型二：细节错误特征：大方向正确，但具体数字、时间、名字出错案例：用户：GPT-3 是什么时候发布的？ AI：GPT-3 于 2020 年 6 月发布，拥有 1750 亿参数。 （这部分正确） 用户：GPT-4 呢？ AI：GPT-4 于 2023 年 3 月 14 日发布，拥有约 1 万亿参数。 （发布日期正确，但参数量是推测值，实际未公开）识别方法：对关键数字（版本号、日期、参数量）要查官方文档类型三：过度自信特征：不确定的事情也以肯定语气表述案例：