会员笔记 · 03 让模型用好上下文与记忆
按需读取、压缩和记忆各管什么
当我们与 AI 合作完成一项长期任务时,资料往往会越积越多:早期的讨论、已经确认的决定、正式成果,以及后来被否定的方案,都可能保留在记录中。那么,怎样让重要信息在不同任务和会话之间得到正确延续?
以小说创作为例。随着章节不断推进,人物设定、正式正文和未采用的草稿也会逐渐积累。假如“韩立已经向墨大夫透露了小瓶的秘密”只出现在某份废弃草稿中,后续续写时就不能把它当成已确认的事实。直接提供全部记录,可能混入无关信息;简单压缩成摘要,又可能丢失“哪些内容已经采用”这样的关键区别。
这里就会延伸出几个问题:怎样按需找到当前需要的资料?怎样压缩已有内容,又不丢失关键条件?哪些信息值得长期保存,并在后续任务中重新使用? 这一节,我们就来看看按需读取、压缩和记忆分别能解决什么问题,以及怎样让它们配合起来。