AstrNa 1.2.5：群聊上下文，先让小模型筛一遍
AstrBot 的群聊上下文感知会把最近的群消息注入给模型，群一热闹，这段注入就长得吓人，大部分还跟当前问题无关。1.2.5 加了群聊上下文压缩：先把最近的群消息交给一个便宜的小模型，挑出跟当前对话相关的，再交给主模型。输入太长时还会先预裁剪一下，免得小模型自己先爆了。
凌晨还处理了一个 token 刺客：历史上下文里残留着旧图片的 base64，对话没几轮，token 却涨得飞快。现在历史里的旧图片会被优化掉，只保留需要的部分。
AstrBot 的群聊上下文感知会把最近的群消息注入给模型，群一热闹，这段注入就长得吓人，大部分还跟当前问题无关。1.2.5 加了群聊上下文压缩：先把最近的群消息交给一个便宜的小模型，挑出跟当前对话相关的，再交给主模型。输入太长时还会先预裁剪一下，免得小模型自己先爆了。
凌晨还处理了一个 token 刺客：历史上下文里残留着旧图片的 base64，对话没几轮，token 却涨得飞快。现在历史里的旧图片会被优化掉，只保留需要的部分。