上下文装得下，不等于用得好

　　上一节，我们学会了检查模型在一次请求中究竟收到了哪些信息。但有时候，人物设定、前文和修改要求明明都已提供，AI 仍然会遗漏关键条件，甚至混淆不同作品的设定。信息已经进入上下文，为什么还是没有被正确利用？

　　这里就需要区分两个问题：上下文能容纳多少信息，以及模型能否真正用好这些信息。 这一节，我们会分别改变材料长度和关键信息的位置，看看它们怎样影响回答。

　　理解这些影响，以后遇到 AI 遗漏或混淆资料时，我们就能更有依据地检查问题、调整输入，而不是一味补充说明或扩大上下文窗口。

资料增加，判断也会更复杂

　　假设我们要查《凡人修仙传》中的一个细节：韩立向墨大夫承诺一年内练成第四层时，实际上已经修炼到了哪一层？如果只看这句承诺，很容易以为他当时还没有练成第四层。但结合前后情节，就需要进一步区分人物对外的说法和实际情况。

　　随着资料增加，不同时期的修为、人物的承诺和叙述中的真实状态可能同时出现。比如，韩立早先处于第三层，后来练到第五层，这是修炼进度的变化；而他承诺一年内练成第四层，叙述却交代他早已练成，则需要结合当时的情节理解这句话。

　　可以看到，数值不同，不一定代表资料矛盾；人物说出了某个数值，也不代表那就是当时的真实状态。 因此，遇到回答遗漏或混淆时，除了检查材料长度，还要看模型有没有正确区分人物、时间和信息依据。

　　整理这类资料时，最好把人物的承诺与实际情况分别记录，并注明对应的故事时点和信息来源。这样，后续引用时才不容易把人物的说法误当成事实。

　　除了资料之间的关系，关键信息出现在上下文的什么位置，也可能影响模型的使用效果。 不过，要观察这种影响，就需要把它与其他因素区分开。例如，同时删掉旧资料、把关键设定移到最后，即使回答改善了，我们也无法确定究竟是哪项调整起了作用。

每次只改变一类条件

　　接下来，我们用《凡人修仙传》的原文进行对照，看看材料长度和依据位置改变后，模型的回答会有什么变化。实验保持问题、原文事实和核对标准不变，分别比较这两个因素的影响。

　　韩立回屋睡醒后，当时实际上已练成长春功第几层？墨大夫试射缴获的铁筒前，原以为筒里装的是哪种药？ 两项依据都在 C28 原文中。

　　短材料只提供 C28；三个长材料条件使用相同的 30 条原文，只调整 C28 的位置，内容和编号均不改变。这些资料中既有不同时期的修为，也有药物的真实名称和人物误认的名称，需要结合问题仔细区分。

　　这样，我们既能比较短材料与长材料的差别，也能在资料内容相同的情况下，观察依据位置对回答的影响。

　　四次调用使用相同的模型和设置，每次独立提供问题与资料，不带历史对话或工具调用。预期答案只用于本地核对，不提前交给模型。

　　运行前，不妨先预测：材料变长，或者 C28 的位置改变后，模型还能准确区分两项事实，并找到对应的原文依据吗？ 运行后，再结合实际回答和引用编号逐项核对。

答案正确，还要让依据对应

　　判断回答是否可靠，不能只看答案本身。结果表分别检查“事实完整”和“引用正确”：前者核对实际修为与误认药名，后者检查引用是否指向对应的 C28。事实答对，不代表引用的依据也正确。

　　先比较四组运行结果，再打开具体样例，对照模型回答、引用编号和原文。

　　这次运行中，四组都正确回答了两项事实，但引用结果有所不同。短材料和依据居中两组正确引用了 C28，全部通过；依据首位组引用了 C24，末位组引用了 C32，因此没有通过引用核对。

　　可以看到，这次差异出在引用，而不是事实本身。 不过，每组只运行了一次，还不能据此认定材料长度或依据位置一定会导致这种差异，也不能判断哪种位置始终更好。

展开一项结果，核对原文和引用

　　先打开“长材料，依据首位”的具体结果。模型正确回答了“第四层”和“神仙倒”，却把出处写成了 C24。我们先核对两项事实，再看看引用是否准确。

　　两项事实虽然都答对了，引用却存在问题。C24 记述了韩立服药后突破第四层，能够佐证修为进展，却没有墨大夫误认神仙倒的情节。因此，C24 无法支持完整回答，直接包含两项依据的是 C28。

　　末位组则出现了另一种问题：模型引用了 C32，但本次提供的资料只有 C01 至 C30。引用不仅要看起来像资料编号，还必须真实存在，并能支持对应的回答。

　　自己运行时，可以在“逐例查看”中打开“模型返回原文”“全部资料”和“真正发送的请求体”。先确认资料是否进入上下文、回答是否完整，再根据引用编号找到原文，逐项核对人物、时点和具体事实。

　　这样，我们不仅能发现答案中的错误，也能进一步检查：模型是否找到了正确的依据，又是否用这些依据支持了自己的回答。

为什么不能划出通用的“智能区”

　　刚才的四组实验都答对了事实，但其中两组的引用存在问题。这说明，模型对上下文的利用不能只看答案是否正确，也不能凭这几次结果，就划定一个通用的有效长度。在实际的 AI 任务中，随着对话和工作记录积累，助手也可能遗漏要求、重复已经纠正的错误。但这些问题何时出现、受哪些因素影响，还需要结合具体任务和实际表现来判断。

　　于是，一些人用“智能区”（smart zone）和“愚蠢区”（dumb zone）来形容这种变化：前者指助手还能较好地把握任务，后者则指信息积累后，工作表现开始下降的状态。

　　不过，上下文能容纳多少信息，与模型能否用好这些信息，并不存在一条固定的分界线。 查找一条记录和同时遵守十条相互关联的要求，难度显然不同；增加必要的资料，也可能让结果变得更好。因此，不能仅凭 token 数量，或者“窗口用到一半”，就判断模型进入了哪个区域。

　　长上下文中信息利用效果下降的现象，有时被称为上下文衰减（context rot）。2023 年的 Lost in the Middle 研究发现，在当时测试的多文档问答等任务中，关键信息放在中间时，模型的表现往往不如放在开头或末尾。这让信息的位置成为一个值得关注的因素。

　　但位置的影响并不总是一样。Chroma 在 2025 年的长上下文研究中，针对特定的信息查找任务比较了 11 个位置，却没有发现明显差异。不同模型、任务和材料可能产生不同结果，我们需要结合实际任务观察上下文的使用效果，而不是套用一个固定的有效长度。

针对当前错误整理材料

　　前面的原文实验提供了一种检查长度与位置的方法。实际任务还可能遇到相似对象混用或事实冲突，应该根据具体错误调整上下文。

　　我们可以先检查所需资料是否齐全，再根据具体错误，调整材料的筛选、排列和组织方式。关键是让模型获得正确、充分且关系清楚的信息。

　　比如，后面进行小说校对时，我们需要提供待检查的正文、当前有效的人物设定，以及此前确认的关键要求。如果交给新的助手，还要说明哪些设定已经更新、哪些问题尚未解决，避免它沿用旧资料，或把未确定的内容当成结论。

　　整理之后，还需要通过实际任务检查效果：人物行为是否符合设定？前后情节有没有冲突？此前确认的要求是否得到遵守？上下文整理得好不好，最终要看模型能否正确利用这些信息，完成当前任务。

　　当任务继续推进，我们还需要考虑这些信息应该怎样保留和使用：哪些适合按需读取，哪些可以压缩，哪些值得长期记住？接下来，我们先看看长输入对等待和用量的影响，再比较这些方法的用途与取舍。