大语言模型是什么：理解生成、上下文与检索增强的基础框架-青峰联创

使用大语言模型时，最实用的基础知识，是分清它如何生成回答、这次回答能看到哪些材料，以及答案中的信息来自哪里。掌握这三个问题，能够帮助我们编写更清楚的任务说明，也能更快判断什么时候需要查资料、补充上下文或人工复核。

从文本生成理解语言模型

语言模型会根据已有内容，对后续文本单元出现的可能性进行建模。Google的入门课程将这些单元称为token，它们可能是词、词的一部分或字符。因此，token数量不能直接等同于汉字数，中文、英文、数字和符号的切分方式也可能不同。

大语言模型通过大规模训练形成参数，学习语言与多种任务中的规律。面对新的输入，它使用这些参数和当前上下文生成输出。生成过程中会用到概率分布，这不意味着回答只是无意义的随机拼接；也不意味着一段连贯、专业的文字一定有可靠事实依据。

可以用一个练习观察这种差别：先请模型写一份虚构图书馆的借阅说明，再要求它回答该图书馆真实存在的地址。前一个任务允许创作，后一个任务需要外部事实。若任务边界没有说明，流畅的表达可能让两种回答看起来同样可信。

上下文可以包括任务指令、当前对话、提供的文档，以及工具返回的信息。模型能够处理的上下文有容量限制；不同产品还可能对历史内容做截断、摘要或其他管理。Claude的官方上下文文档说明了上下文窗口的概念及处理机制，具体容量则应查看所用模型的当前说明。

“之前聊过”不等于“此刻仍完整提供给模型”。重要要求最好放在当前任务中，例如目标读者、允许使用的资料、输出格式和不能推断的字段。对于长文档，保留标题、页码与章节编号，可以让回答更容易定位证据。

提供材料：“资料A：活动暂定周六，场地尚未确认。资料B：报名截止周三。”再提出要求：“只依据两份资料，列出活动时间、场地状态、报名截止时间；未确认内容原样保留，并写出资料编号。”检查输出是否将“暂定”改成了确定日期，是否凭空补全了场地。这比只问“帮我整理一下”更容易验收。

提示工程是在输入中写清任务、限制和示例，通常不改变模型参数。Google的相关课程对这一点有明确说明。它适合解决目标不清、格式不稳定和任务步骤缺失等问题，但不能凭空提供模型没有看到的最新资料。

检索增强生成，通常简称RAG，是先从外部资料中找出相关内容，再把这些内容交给模型组织答案。OpenAI的检索文档介绍了语义检索：即使字面关键词不完全相同，也可以查找语义相关的材料。检索提供的是候选证据，并不自动保证来源真实、版本最新或结论正确。

微调则会使用训练数据进一步调整模型参数，以适应特定任务或输出习惯。它涉及数据准备、训练与评估，不等同于在聊天窗口上传一份文件。是否需要微调，应由稳定任务的实际问题决定；对于经常更新的资料，先把来源管理和检索做清楚，通常更便于追踪依据。

一些系统允许模型请求搜索、运行计算或读取文件，再根据返回结果继续回答。此时需要检查整个流程：是否选择了正确工具，输入是否符合目标，工具是否执行成功，模型是否准确理解了结果。

例如，要求计算一列金额的合计，可以先让系统提取数字，再用确定性的计算工具求和，最后对照原表。若提取时漏掉一行，即使加法完全正确，最终答案仍然不完整。因此，验证要覆盖输入和中间结果，不能只检查最后一句话。

开始任务前，先回答：需要创作还是需要事实；事实来自哪些资料；哪些字段必须准确；结果将由谁复核。随后给出明确的缺失处理方式，例如“材料没有说明时写未说明”，并要求关键结论附来源位置。

完成后检查三个容易被忽略的地方：限定词有没有丢失，数字与单位有没有变化，不同来源是否被错误合并。模型的解释可以帮助找到问题，但不能单靠它对自身答案的自信程度判断正确性。

理解这些基础概念后，使用者就能把“换一个更强模型”的笼统想法，拆成补资料、改提示、查检索、验工具或调整任务流程等具体动作。每一步都有可以观察的结果，也更容易发现真正的限制所在。

文章版权归作者所有，未经允许请勿转载。

THE END