当大模型从一次性问答工具变成长期助手后,“记忆”开始成为越来越重要的能力。
它可以记住用户偏好的表达方式、正在推进的项目、经常使用的报告结构,甚至根据过去的沟通主动补充信息。这样一来,用户不必每次重新介绍背景,大模型也能给出更贴合需求的回答。
但记得越多,并不一定意味着体验越好。企业真正需要解决的问题是:哪些信息值得记住,保存多长时间,谁可以使用,以及用户如何修改和删除。
首先需要明确,大模型本身的“记忆”并不是人的记忆。很多应用是把历史对话、用户资料或任务摘要保存在外部系统中,在下一次提问时重新提供给模型。模型看起来记住了过去,实际上是系统帮它找回了相关信息。
这意味着,记忆首先是一个数据管理问题,其次才是模型能力问题。
企业可以把大模型记忆分成几个层次。
第一类是当前会话信息,例如用户正在讨论的合同、刚刚确定的写作要求和本轮任务目标。这些信息主要用于保持对话连贯,任务结束后通常不需要长期保存。
第二类是任务状态,例如项目进行到哪一步、哪些事项已经完成、下一步由谁负责。这类记忆可能需要保留一段时间,但项目结束后应当归档或失效。
第三类是长期偏好,例如用户常用的语言、报告格式和沟通风格。它们能够减少重复设置,但必须允许用户随时查看和修改。
第四类是正式业务数据,例如客户信息、订单状态、合同条款和审批结果。这些内容不应该只存在于大模型记忆中,而应以业务系统为准。大模型可以在获得授权后读取,却不能成为唯一记录来源。
分清这些类型,可以避免把所有信息都塞进同一个“长期记忆库”。
大模型记忆最常见的风险,是把推测当成事实。
例如,用户多次询问某类产品,并不代表他已经购买;员工曾经负责一个项目,也不代表他现在仍然拥有相关权限;客户在一次沟通中表现出价格敏感,也不意味着这应该成为永久标签。
因此,系统需要区分“用户明确提供的事实”“经过确认的业务记录”和“模型根据对话形成的推测”。推测可以暂时帮助理解上下文,但不应未经确认就长期保存,更不能直接用于重要决策。
记忆还会过期。
用户的岗位、联系方式、项目目标和业务偏好都会变化。如果旧信息长期保留,大模型可能不断根据过时背景回答问题。它记得很多,却越来越不了解用户的真实情况。
重要记忆应当标注来源和更新时间。长期没有被使用的信息可以降低优先级或自动失效;与当前资料冲突时,应优先采用经过确认的新记录。对于可能影响业务判断的信息,系统还应主动要求用户确认,而不是自行覆盖。
隐私边界同样重要。
对话中可能出现身份证号、财务信息、健康情况、客户资料和商业机密。并不是用户说过的每一句话,都代表同意系统永久保存。企业应该明确告知哪些信息会进入长期记忆、保存目的是什么,并为敏感信息设置更严格的限制。
“默认全部记录,以后可能有用”看起来方便,实际上会不断积累风险。更稳妥的原则是只保存完成长期服务确实需要的信息。
权限管理也不能被忽略。
如果一个员工通过大模型查询过某份敏感文件,不代表系统可以把文件内容写入公共记忆,供其他员工以后调用。个人记忆、团队记忆和企业公共知识需要严格区分,并继承原始数据的访问权限。
员工转岗、离职或项目权限结束后,相关记忆的访问范围也应同步变化。否则,大模型可能成为绕过原有权限体系的新入口。
可靠的记忆系统还应支持查看、纠正和删除。
用户应该能够知道系统记住了什么,指出哪些内容不准确,并删除不希望继续保存的信息。删除不能只是不再显示,还要考虑缓存、索引和历史副本中的数据如何处理。
对于企业而言,谁修改了重要记忆、修改前后有什么变化,也应保留必要记录。这样出现错误时,团队才能判断问题来自原始数据、模型总结,还是后续人工调整。
记忆效果也需要评估。不能只看大模型是否能够引用过去的信息,还要观察它是否在正确的场景使用了正确的记忆。
一条记忆即使内容真实,如果与当前问题无关,也可能干扰回答。好的系统不是把所有历史内容一次性交给模型,而是根据当前任务选择少量相关信息,并明确哪些是正式事实、哪些只是参考背景。
企业建设大模型记忆时,可以先从低风险、高价值的信息开始,例如常用输出格式、公开项目背景和已经确认的任务状态。涉及敏感数据、人员评价和重要业务决策时,则应采用更严格的授权、确认和保存规则。
大模型记忆的价值,不在于打造一个什么都不会忘记的系统,而在于减少用户重复说明背景,同时避免旧信息、错误推测和敏感数据持续影响未来。
真正值得信任的记忆能力,应当知道什么需要留下、什么应该忘记,也允许用户对自己的信息拥有清楚的控制权。