在构建了大量的AI项目之后，我也算是抽出了不少时间能对AI的记忆（上下文）进行研究，那么这篇文章就会分析两个大的方向，都是现如今比较常用的，来尽可能让AI的记忆变长的小技巧。那么这篇文章同时也有一些有用的教程，希望能对你自部署的AI模型记忆系统起到帮助
现如今绝大多数的AI模型最大的上下文窗口都在1M Token上下文，也有不少模型甚至达不到1M，1M的Token数量换成中文来看的话其实只有几十万字，大概在70来万左右，而上下文就囊括了提示词，历史所有的对话数据和当前的对话，所以上下文越长记忆就越长
当前的主要问题
如果是对于个人使用的短对话情况下，70万字的上下文确实绰绰有余，至少能支持数百上千轮对话，而不会遗漏什么信息。而现在AI的用途越来越广泛了，像角色扮演类AI需要一个极其长的系统提示词（动辄几千字）还有世界书，另外模型的每一次输出也比较长，所以可能一百几十句话后就不记得前面的东西了。让AI写小说也一样，动辄几千字的输出没个及时一百轮就占满了上下文窗口，所以我这里给大家分别介绍两个目前主流的解决方案。
解决方案
现在主流有两个解决方案，但都是以比较高昂的成本为代价的，一是通过AI总结对话的上下文并存取到一个文件中，比较动态灵活。二是让AI直接在每次对话中写入/删改重要记忆并在每个消息的回复中设置一个类似“记忆区”的功能
第一种解决方案 AI总结
像基于Astrbot部署的AI模型，就可以借助一些插件来使用这个解决方案。实现原理是一个比较适合角色扮演的AI和你进行聊天，在每次聊天时聊天记录也会同时转发到另一个AI，而另一个AI则负责将前后文对照并总结成提示词自动写入，这种方案相比于第二种方案可以节省一些成本，可能和你聊天的是一些费用非常高，且在角色扮演上表现非常好的模型，而总结就可以交给Deepseek，而且也可以设置聊三五次才发送一次总结来省钱。
而且这个理论上效果会优于第二种解决方案，因为可以不断扩充提示词，甚至可以扩展到一个知识库供AI随时取用，所以理论上是可以存很多且很大的记忆的
缺点是部署起来非常麻烦
第二种 AI提示词总结
如上图所示，提示词总结会在每一次对话中输出一个类似上面的提示词总结，其中AI模型会自动根据上下文对话分析并总结出长期和短期记忆，这个部署起来就方便的多了，你可以使用我下面的代码，将其加入到系统提示词中，并强调AI在对话最前面或者最后面输出一个像下面一样的提示词总结就可以了：
<details style="background-color: #e6f7ff; border: 2px dashed #69b1ff; border-radius: 10px; padding: 12px 15px; margin-top: 15px; box-shadow: 0 2px 8px rgba(24, 144, 255, 0.15);">
<summary style="cursor: pointer; font-weight: bold; color: #0958d9; outline: none; user-select: none; font-size: 15px;">系统记忆区</summary>
<p style="margin-top: 12px; margin-bottom: 0; font-size: 13px; line-height: 1.6; color: #1677ff; border-top: 1px solid #91caff; padding-top: 10px;">
<strong>【短期记忆】</strong>（0/5）<br>
（在此列出当前记录的短期事件，当达到5条时触发压缩）<br><br>
<strong>【长期记忆】</strong><br>
！！！！！！！！！！请注意，这个需要你修改成你自己的剧情，剧本等需要AI扮演和重点记住的设定！！！！！！！
</p>
</details>请自行添加长期记忆。
这个提示词总结直接加进系统提示词就可以了，但缺点也很大，因为窗口限制能记忆的东西比较有限，并且因为每一次对话都要输出记忆，所以Token消耗比较高，比第一种方法烧钱不少，并且因为是简单总结效果其实也不如第一种，但就简单在方便部署，你也可以自行在我上面的那个代码里改良
写在最后
其实现在AI的上下文进化到百万Token了，辅助上提示词之后基本就能实现很类人的记忆，老的和不重要的事情会忘记，而记住重要的事情，结合许许多多的Skills，AI已经慢慢可以成为一种能够导入丰富情感设定和还原一个人个性的东西了，不得不感叹AI发展的迅速，也庆幸现在的AI能够帮助不少人弥补遗憾和提供情感支持
评论 (0)