多智能体记忆笔记
1060 字
5 分钟
多智能体记忆笔记
AI 摘要
记忆是智能体积累经验并透过与环境交互探索世界的主要驱动力。
📘 1. 基础术语扫盲
Agent(智能体): 指的是一个能够感知其环境,并基于感知到的信息采取行动,以实现特定目标的自主实体
- Agent=LLM+规划能力+记忆+工具调用
- 核心是感知-思考-行动的循环
多智能体系统(MAS): 是一种多智能体通过承担不同角色进行协作以实现共同目标的框架。
多智能体记忆: 记忆使得智能体能够通过与其他智能体和环境的交互来积累、保留和重用经验,从而支持更连贯的协调和持续适应。
短期记忆: 当前任务正在使用的、经过初步处理的信息。容量有限,一旦上下文窗口结束或被刷新,信息就会消失。(上下文窗口)
长期记忆: 持久化存储的知识、事实、经验和用户偏好。容量大,可以跨越多个会话。(外部知识库)。
🔄 1.1. 记忆处理流程
用户输入→
- 查询长期记忆(向量数据库)
→ 召回相关记忆 - 组合完整上下文
将以下内容组合:- 召回记忆
- 最近短期记忆
- 系统提示
- LLM 推理与决策
- 执行动作或生成回复
- 写入短期记忆
将当前交互写入短期记忆(上下文窗口内)。 - 异步写入长期记忆
从短期记忆中抽取重要事实或总结,并写入长期记忆。
长期记忆难点:
- 记忆的重要性判断:不是所有对话丢需要进入长期记忆的,需要用LLM或启发式规则触发写入。
- 记忆的遗忘:长期记忆不会无限增长,需要按时间衰减、合并相似记忆,按重要性打分。
- 记忆的冲突管理:当长期记忆与新输入冲突时,通常优先相信新输入(因为用户可能改变了偏好),同时询问确认。
- 层次化记忆:更高级的设计会引入“情景记忆”(特定事件)和“语义记忆”(抽象知识)的区分。
短/长期记忆总结
- 短期记忆=LLM的上下文窗口。用于当前任务的连续性。(设计重点在于窗口管理和压缩)
- 长期记忆=外部向量存储。用于夸会话的知识和个性。设计重点在与检索、重要性判断和遗忘策略。
- 试内记忆:
- 跨试记忆:
- 自进化智能体(Self-Evolving Agents)
- 自进化 MAS(Self-Evolving MAS)
🤝 2. 多智能体协作
多智能体系统已被证明能够突破单一模型能力的边界,MAS通过合作或竞争协调多个智能体,以超越个体智能体在认知和专业化方面的局限。
👥 2.1. 多智能体系统(MAS)
MAS的本质是跨多个智能体的多轮协调导致其解题轨迹比单智能体设置要长得多。
💾 2.2. 当前的MAS 记忆机制
- 过于简单,忽视了智能体间的微妙的协同轨迹
- 缺乏尝试和特定智能体的定制化
🗂️ 3. 数据集
- 知识密集型问答:TriviaQA、PopQA
- 编程:KodCode 、BigCodeBench
- 推理问答:StrategyQA
- 符号规划:PDDL
🧩 4. 框架概览
- 历史MAS轨迹
- 检索相关经验(高层经验抽取)
- 将新的记忆抽象或压缩为可复用的记忆,写回新经验。
历史 MAS 轨迹 → 检索相关经验 → (用固定的人工规则/提示词做一次性压缩并永久存档,或用可训练网络做即时性、不落盘的压缩) → 按角色/画像/拓扑注入(注入发生在存储架构、检索融合、或压缩网络输入这三个不同阶段之一)→ 完成新任务并回写新经验(是否连同抽象结果一并回写,还是只回写原始轨迹)。
📑 5. 代表论文
📝 6. 总结
- 智能体的功能特异性
- 智能体记忆角色感知
- 拓扑越复杂,代表智能体的数量越多
支持与分享
如果这篇文章对你有帮助,欢迎分享给更多人或打赏支持!
随机文章 随机推荐