拷问记录：AI Agent 记忆系统

题目与回答复盘

用户回答摘要：全量传导致噪声问题，LLM注意力机制下降。短期增强当前意图感知；长期存储个性化信息提升服务。
缺失点：未明确提到“Token账单爆炸”和“中间迷失(Lost in the middle)”这两个行业黑话。
推荐答案与项目口径：大模型上下文窗口有限，无脑追加历史记录不仅容易撑爆窗口导致报错，更会导致 API Token 消耗飞涨，且容易产生“中间迷失”。长短期双轨制中，短期暂存任务状态，长期持久化跨会话偏好。

用户回答摘要：采用异步写入。防假记忆靠两点：优化提取时的提示词，以及过滤机制（不存工具调用结果、置信度低于阈值不存）。
缺失点：少提了一个完美的兜底策略——“提供前台 API 供用户手动修正错误记忆，并保留审计历史”。
推荐答案与项目口径：在 Session 结束后触发后台异步任务，调用大模型对短期记忆做语义过滤，提取事实落库。通过置信度阈值防噪声，并暴露 REST API 支持用户审计修改。

用户回答摘要：长期存个人，RAG 存共享世界知识。性能优化上做了基于意图识别的 JVM 内存语义缓存（Caffeine），避开 Redis 网络延迟，并使用 Redis Pub/Sub 保证多节点一致性，且严格限制只缓存静态无状态的 FAQ。
缺失点：无。引入 Caffeine 并结合业务状态区分（静态知识才缓存），以及 Redis Pub/Sub 同步，是非常加分的实战经验！
推荐答案与项目口径：RAG 挂载共享知识库防越权，长期挂载个性化偏好防旧错固化。性能优化引入基于 JVM 内存的语义缓存，命中直接短路返回，Redis Pub/Sub 广播重载保证一致性，把问答时延降至毫秒级。