当前位置：首页 > news >正文

2025-arXiv-OmniThink：通过思考扩展机器写作的知识边界

news 2025/9/30 1:34:18

arXiv | https://arxiv.org/abs/2501.09751

GitHub | https://github.com/zjunlp/OmniThink

项目主页 | https://zjunlp.github.io/project/OmniThink/

ModelScope 在线 Demo | https://www.modelscope.cn/studios/iic/OmniThink

摘要：

大语言模型驱动的机器写作通常依赖于检索增强生成（RAG）。然而，这些方法仍然局限于模型预定义范围的边界内，限制了内容生成中的丰富信息。具体而言，单纯的检索信息往往缺乏深度、实用性和重复性，这会负面影响生成文章的质量，导致文章浅薄、重复且缺乏原创性。

为解决这些问题，我们提出了 OmniThink 机器写作框架，该框架模拟了人类逐步深化知识的迭代扩展和反思过程。OmniThink 的核心理念是模拟学习者在逐步深化对主题知识理解时的认知行为。实验结果表明，OmniThink 在提高生成文章的知识密度的同时，不会牺牲连贯性和深度等指标。人类评估和专家反馈进一步突显了 OmniThink 在应对长文生成中的现实挑战方面的潜力。

一、引言

写作是一个持续的过程，涉及收集信息和思考。近年来，LLMs 在机器写作方面取得了显著进展，例如在开放领域长文生成或特定主题的报告生成方面。为了获取有用的信息，早期尝试使用检索增强生成（RAG）来扩展给定主题的新信息。然而，传统的 RAG 依赖于固定的一套检索策略，这在生成方面缺乏多样性，无法充分探索主题，导致对主题的理解碎片化且不完整。为了解决这一问题，STORM 和 CoSTORM 提出了角色扮演方法，旨在扩展视角，即从多个角度收集信息，从而扩展信息空间。

然而，这些方法仍然局限于个人角色的范围内进行思考，难以产生深刻的内容并突破自身的知识边界。特别是，检索到的信息往往缺乏深度、实用性和冗余性，直接影响生成文章的质量，导致内容浅薄、重复且缺乏原创性。人类在写作过程中可以自然地避免这些问题，人类作家不断反思已收集的信息和个人经验，从而重新组织、筛选和精炼其认知框架。这一过程促使作家不断调整写作方向和心理路径，最终使人类作者能够生成更为深刻、细腻和原创的内容。

基于此，我们提出了 OmniThink 这一新的机器写作框架，模仿人类认知过程中的迭代扩展与反思。OmniThink 的核心理念是模拟学习者在逐渐深化对复杂主题的理解过程中扩展知识边界的行为模式。通过不断反思之前检索到的信息，OmniThink 能够确定进一步扩展的最佳步骤。这种扩展反思机制使得检索策略能够动态调整，从而促进对相关信息更为全面和深入的探索。一旦收集到多样化的信息，OmniThink 将进入提纲构建和文章生成阶段。这一迭代思考过程能够产生质量更高、知识密度更高、包含有用、深入和原创内容的文章。

二、背景

2.1 任务定义

我们专注于机器写作中的开放领域长文生成任务，该任务涉及从开放领域检索信息并综合生成一篇连贯的文章。

给定输入主题 $T$ ，开放领域长文生成的目标是生成一篇长文章 $A$ 。当前的标准方法包括两个主要步骤：

（i）使用搜索引擎 $S$ 检索与主题 $T$ 相关的信息 $I = S (T)$ ；
（ii）根据检索到的信息 $I$ 和输入主题 $T$ 生成大纲 $\text{Generate}(I, T)$ 。最后，使用大纲生成文章 $\text{Generate}(O, I)$ 。

2.2 重新审视先前的方法

先前的研究在提高开放域长文本生成的质量方面做出了大量努力。

Co-STORM 在步骤（i）中引入了一种用户参与的圆桌讨论机制，以增强检索信息的多样性。
STORM 在步骤（ii）中提出了一种提问机制，以提高生成提纲的质量和相关性。

尽管在开放域长文本生成方面取得了显著进展，但仍存在一个持续的挑战：生成的内容经常出现过度重复且缺乏实质性信息。

本文展示了由 STORM 生成的一个案例，其骨干模型为 GPT-4o：

在本文中，“AlphaFold 由 DeepMind 开发” 这一说法在多个地方重复出现，而在初次提及时只需出现一次即可。

2.3 文章的知识密度

以往的研究主要关注文章的相关性和正确性，但没有考虑文章是否具有足够的深度。许多生成的文章包含大量冗余信息，这与人类写作的方式存在很大不一致。为解决这一问题，我们引入了**知识密度（Knowledge Density, KD）**的概念，定义为有意义的内容与文本总体体积的比例，具体公式为：
$KD=\frac{\sum_{i=1}^Nk_i\cdot U(k_i)}{L}$
其中 $N$ 为文档中识别出的总原子知识单元数量。函数 $U(k_i)$ 表示第 $i$ 个单元信息 $k_i$ 是否唯一。 $L$ 代表文本的总长度。在该公式中，分子表示从长文章中提取的唯一原子知识单元的总和，分母对应于文章的长度。

知识密度度量的价值在于其能够从信息获取的角度衡量生成文本的阅读成本。读者遇到低知识密度的内容时，往往会因冗余或无关细节而感到疲劳、沮丧或失去兴趣。相反，高知识密度的内容能够提供精简的体验，从而实现高效的知识传递。

先前的方法在处理提出的知识密度方面表现有限，原因在于开放域长文本生成中生成的内容必须基于检索到的信息。当检索到的信息不够多样化时，这些信息往往包含大量冗余和重复的内容，导致生成的文章出现重复和冗余现象。我们可以通过在步骤（i）中引入推理和规划来解决这一问题，将处理收集到的内容以提取非重叠、高密度的信息。

三、OmniThink

机器写作框架 OmniThink 模拟了人类迭代反思和扩展的过程。OmniThink 可以分为三个步骤：信息获取、提纲构建和文章撰写。

3.1 信息获取

为了获取多样且全面的信息，OmniThink 模仿人类的学习过程，通过迭代的扩展与反思逐步深化对主题的理解。这一迭代过程最终构建了一个信息树 $T$ ，该信息树以结构化和层级的方式组织检索到的信息，并构建了一个概念池 $P$ ，代表了在时间步 $m$ 时 LLM 对主题的理解。

**初始化过程：**交互过程始于根据输入的主题 $T$ 初始化根节点。OmniThink 首先利用搜索引擎（Google 或 Bing）检索与 $T$ 相关的信息，并使用检索到的知识构建信息树的初始根节点 $N_r$ 。 $N_r$ 中的初始信息随后被组织和分析，形成初步的概念池 $P_0$ ，这构成了 OmniThink 对主题的基础理解，并指导后续的扩展与反思过程。

3.1.1 拓展

在时间步 $m$ 时，OmniThink 分析信息树 $T_m$ 的所有叶节点 $L_m = \{N_0, N_1, …, N_n\}$ 。这些叶节点首先被存储在概念缓冲区 $P_b$ 中，OmniThink 对每个节点进行评估，以确定是否需要进一步拓展。

对于需要扩展的节点，OmniThink 使用当前的概念池 $P_m$ 来识别更深层次的扩展区域或合适的扩展方向。
对于每个叶节点 $N_i$ ，OmniThink 生成 $k_{N_i}$ 个子节点 $\text{SUB}(N_i) = \{S_0, S_1, …, S_{k_{N_i}}\}$ 用于扩展。每个子节点代表从当前节点 $N_i$ 中识别出的具体方面或子主题。
对于每个子节点，OmniThink 检索相关的信息并将其存储在相应的节点中，随后将子节点添加到更新后的信息树 $T_{m+1}$ 。

$T_{m+1} = \text{Combine}(T_m, \text{SUB}(N_0), …, \text{SUB}(N_n))$

这种针对性的信息检索过程确保了 OmniThink 为每个子节点收集了全面而深入的内容，从而丰富了信息树的层次结构。

3.1.2 反思

OmniThink 将新检索到的信息反映到所有叶节点 $L_{m+1} = \{N_0, …, N_n\}$ 中。

从每个叶节点检索到的信息将被分析、筛选和综合，以提炼出核心见解 $I_{m+1} = \{\text{INS}_0, …, \text{INS}_n\}$ 。
这些精炼的见解随后被纳入概念池 $P_m$ ，该概念池在整个过程中不断更新和丰富。

$P_{m+1} = \text{Merge}(I_{m+1}, P_m)$

利用更新后概念池 $P_{m+1}$ ，OmniThink 会迭代地扩展信息树的叶节点。

这一扩展与反思的迭代循环将持续进行，直到 OmniThink 判断已获取了足够的信息，或者达到了预定义的最大检索深度 $K$ 。这确保所获取的信息具有相关性、详细性和多样性，从而为生成结构化且信息丰富的文章奠定坚实的基础。

3.2 提纲构建

提纲是文章的核心，决定了内容方向、结构层次和逻辑推进。为了创建一个导向明确、结构清晰且逻辑连贯的提纲，对主题进行全面而深入的理解是至关重要的。

在上一部分 OmniThink 保持了一个与主题紧密相关的概念池，这实际上代表了 LLM 对主题的理解范围和深度。在生成内容提纲时，我们首先创建一个草稿提纲 $O_D$ ，然后要求 LLM 对概念池 $P$ 中的内容进行细化和链接，最终形成最终的提纲 $\text{Polish}(O_D, P)$ 。通过这种方法，LLM 能够在提纲中全面涵盖主题的关键点，并确保文章在逻辑连贯性和内容一致性方面达到要求。

3.3 文章撰写

在完成提纲 $O$ 后，我们开始为每一部分 $S$ 编写内容，LLM 将并行工作，为每一部分编写内容。在编写每一部分的内容时，我们使用每一部分及其层次子部分的标题来通过计算语义相似度（Sentence-BERT 嵌入）从信息树中检索最相关的 $K$ 篇文档。
获取相关的信息后提示 LLM 根据检索到的信息生成带有引用的内容。

一旦所有部分生成完毕，将它们连接成一篇完整的草稿文章 $A_D = \{S_1, …, S_n\}$ 。
由于这些部分是并行生成的且其他部分的具体内容尚未明确，提示 LLM 处理连接的文章删除重复信息，并形成最终的文章 $A = \{S'_1, …, S'_n\}$ 。

四、实验

4.1 实验设置

**评估数据集：**WildSeek

WildSeek 收集并筛选了与开源 STORM 网络应用程序相关的数据，每个条目包含一个特定的主题和用户的目标。

**基线方法：**RAG、oRAG、STORM、Co-STORM，基线结果基于 STORM 进行重现。

评估设置：

自动评估：使用 Prometheus2 对文章进行 0 到 5 分的评分，评估其相关性、广度、深度和新颖性。此外，我们还通过测量信息多样性（网页之间的余弦相似度差异）和知识密度来衡量信息丰富度。
**人工评估：**随机选择了 20 个主题，并将通过我们方法生成的文章与基于自动评价综合表现最佳的基线 Co-STORM 生成的文章进行比较，在相同四个方面进行评分。

提纲评估标准：

文章评估标准：

参数设置：

基于 DSpy 框架构建了，提示：
温度设置为 1.0，top_p 设置为 0.9，Bing API，并将每个查询返回的网页数量参数设置为 5。
知识密度的计算，我们采用 Factscore3 作为基础模型，利用 GPT-4o-08-06 进行原子知识的分解。分解后，我们使用 GPT-4o-08-06 对拆分的原子知识进行去重。
为了避免搜索引擎变化带来的影响，表中所有结果均在 3 天内完成。