LLM 基准测试的深入指南

随着越来越多的 LLM 可用，对于组织和用户来说，快速浏览不断增长的环境并确定哪些模型最适合他们的需求至关重要。实现这一目标的最可靠方法之一是了解基准分数。

考虑到这一点，本指南深入探讨了 LLM 基准的概念、最常见的基准是什么以及它们需要什么，以及仅依赖基准作为模型性能指标的缺点是什么。

什么是 LLM 基准，为什么它们很重要？

LLM 基准测试是一种标准化的性能测试，用于评估 AI 语言模型的各种功能。基准测试通常由数据集、问题或任务集合以及评分机制组成。在经过基准测试评估后，模型通常会获得 0 到 100 的分数。

基准对组织（即产品经理和开发人员）以及用户很有价值，因为它们提供了 LLM 性能的客观指示。提供一个通用的、标准化的评估集合来衡量 LLM，可以更轻松地将一个模型与另一个模型进行比较，并最终为您提议的用例选择最佳模型。

此外，基准测试对 LLM 开发人员和 AI 研究人员非常有用，因为它们提供了关于什么是良好性能的定量共识。基准分数揭示了模型的优势所在，反之亦然，更重要的是，它不足的地方。随后，开发人员可以将其模型的性能与竞争对手进行比较，并进行必要的改进。构建良好的基准测试所培养的透明度使 LLM 领域的人们能够相互促进进步——在此过程中加速语言模型的整体进步。

热门 LLM 基准测试

以下是一些最常用的 LLM 基准测试，以及它们的优缺点。

ARC

AI2 推理挑战 （ARC） 是一个问答 （QA） 基准测试，旨在测试 LLM 的知识和推理技能。ARC 的数据集由 7787 个四选项多项选择科学问题组成，范围从 3RD至 9第-等级难度级别。ARC 的问题分为简单和挑战集，测试不同类型的知识，如事实、定义、目的、空间、过程、实验和代数。

ARC 被设计为比以前的 QA 基准测试更全面、更难的基准测试，例如斯坦福问答数据集 （SQuAD） 或斯坦福自然语言推理 （SNLI） 语料库，后者仅倾向于衡量模型从段落中提取正确答案的能力。为了实现这一点，ARC语料库提供了分布式证据：通常包含回答问题所需的大部分信息，但在整个段落中传播相关细节。这需要语言模型通过其知识和推理能力来解决ARC问题，而不是明确地记住答案。

ARC 基准测试的优缺点

优点

• 多样化且具有挑战性的数据集
• 推动 AI 供应商提高 QA 能力——不仅通过事实检索，而且通过整合来自几个句子的信息。

缺点

• 仅由科学问题组成

HellaSwag

HellaSwag（Harder Endings， Longer contexts， and Low-shot Activities for Situations with Adversarial Generations的缩写）基准测试通过句子完成练习测试LLM的常识推理和自然语言推理（NLI）能力。作为 SWAG 基准的继任者，每个练习都由一段视频字幕作为初始上下文和四个可能的结局组成，其中只有一个是正确的。

每个问题都围绕着常见的、现实世界的物理场景，这些场景被设计为对人类来说很容易回答（平均得分约为 95%）࿰