C₂₂H₂₅NO₆
博客

给 LivingMemory 提的 PR 合并了:把记忆伪装成一次工具调用

· 约 1 分钟

LivingMemory 是一个带生命周期的长期记忆插件,我一直在用。召回出来的记忆总得塞进上下文里,常见做法是拼进系统提示词或者用户消息,但这样模型不太分得清哪些是用户刚说的、哪些是翻出来的旧事,拼在系统提示词里还会让每轮的提示词都不一样,缓存也命中不了。

所以我提了一个「伪造工具调用」的注入策略:把记忆包装成一轮历史,看上去像模型自己调用了「查记忆」工具、工具返回了这些内容。模型对工具结果的态度天然就是「这是我查到的资料」,用起来更自然,前面的对话也不用跟着变。今晚这个 PR 被合并了,开心。