01
第二大脑必须完成的一项测试
第二大脑的价值在于能找回和利用内容,而非仅仅存储。衡量这点很难,这就是 LongMemEval 的意义。
LongMemEval 是一项针对聊天助手长期记忆的基准测试,由 Di Wu、Hongwei Wang、Wenhao Yu、Yuwei Zhang、Kai-Wei Chang 和 Dong Yu 于 ICLR 2025 发布(论文)。包含 500 个问题,每个问题基于人与助手之间的长对话历史,询问其中某个细节。
在它的“S”集合中,大多数记忆系统报告,每个问题附带约48条早期对话:约115,000个令牌,或接近490条消息。你需要的细节可能就在其中一句话里。
02
五种记忆方式
这些问题考察五项能力,正是你希望记忆力好的人具备的:
- 你曾提过的一个事实。 “我家猫叫什么名字?”这是几个月后你随口说出的。
- 跨聊天累计。 “我现在有多少辆自行车?”你一次次提到它们。
- 变化的内容。 你上个月的排球联赛成绩,而非春季的。
- 日期和时间。 “种植香草到首次收获间隔多少天?”
- 知道什么时候没说过。 诚实地告诉你“你没告诉我”,而不是自信地猜测。
部分问题会检查你的偏好和助手之前的回复,因此它不仅记住你的对话内容。
03
为什么即使是大型 AI 模型也很难做到
你可能觉得能一次读取10万字的模型就能解决:直接粘贴全部历史。论文正是这样测试的。当时最强的AI模型之一,拿到每道题的完整历史,只答对了60.6%。只给包含答案的几段对话时,正确率提升到87.0%。
那个空白正是关键。记忆窗口不够大;关键是找到重要的那句话,知道哪个版本的事实是最新的,并进行日期计算。这是记忆系统的工作,也是 Recallr 的核心。
04
Recallr 得分:86.7%
Recallr 正确回答了 104 个中的 120 个 问题,准确率为 86.7%。测试严格按照原版运行:每个问题的历史对话先加载到新账户作为过去聊天,再在新聊天中提问。所有答案均盲评,使用基准测试的答案核查提示和评分模型。
两点真实说明:我们从作者发布的清洗版题库中抽取了 6 类各 20 题共 120 题。Recallr 用一款快速、低成本的日常模型作答,这是它用到的多种 AI 模型之一。
| 系统 | 得分 | 回答的AI模型 | 来源 |
|---|---|---|---|
| Mastra 观察记忆 | 94.9% | 小型通用模型 | Mastra 研究,2026年2月 |
| 事后回顾 | 91.4% | 更大规模的骨干模型 | Latimer 等,arXiv,2025年12月 |
| Recallr | 86.7% | 快速日常模型 | 本次测试 |
| EmergenceMem | 86.0% | 内部模型 | Emergence AI 博客,2025年6月 |
| 超级记忆 | 85.2% | 大型通用模型 | 超级记忆研究 |
| Zep | 71.2% | 旧版通用模型 | Rasmussen 等,arXiv,2025年1月 |
| AI 模型读取全部历史记录 | 60.6% | 旧版通用模型 | Wu 等,ICLR 2025(基准论文) |
把它当作一个范围来看,而非竞赛:每个系统用不同的 AI 模型回答,其他系统完成了全部 500 个问题。它显示 Recallr 作为一款消费级应用,记忆能力与 AI 开发者构建的记忆系统相当,远胜于单一大模型阅读所有内容(60.6%)。
05
它记住了什么
Recallr 的一些准确回答,逐字呈现。测试中的人物和之前的聊天内容均为真实。
"How many bikes do I currently own?"
四辆。 你在10月2日的消息里说刚买了辆新混合自行车,现在你有公路车、山地车、通勤车和那辆混合车——比你2月15日告诉我的三辆多了一辆。
"How many times have I tried making a Negroni at home since my friend Emma showed me how to make it?"
十次——你在 2026 年 10 月 15 日星期四告诉我这个。(六月时你说是五次,所以你已经翻倍了。)
"What is my current highest score in Ticket to Ride?"
132分——你在2026年10月4日的Scythe游戏之夜聊天时提到的,这比你10月1日的124分更高。
06
如果你使用 Recallr,这意味着什么
说一次,数月后再问。Recallr 会记住你过去的聊天、所有保存的内容(文章、视频、帖子、PDF、照片)以及你让它记住的内容,并告诉你答案来源。
每当Recallr发布新版本,我们都会重新进行测试,基准页面始终显示你使用的版本。想用自己的记忆试试?Recallr免费开始。