跳转到内容
博客 · 基准测试

什么是 LongMemEval,Recallr 如何评分?

如果你三月告诉助手一件事,六月它还记得吗?LongMemEval 是研究人员设计的测试。这里介绍它的原理、难点,以及 Recallr 的表现:86.7%。

01

第二大脑必须完成的一项测试

第二大脑的价值在于能找回和利用内容,而非仅仅存储。衡量这点很难,这就是 LongMemEval 的意义。

LongMemEval 是一项针对聊天助手长期记忆的基准测试,由 Di Wu、Hongwei Wang、Wenhao Yu、Yuwei Zhang、Kai-Wei Chang 和 Dong Yu 于 ICLR 2025 发布(论文)。包含 500 个问题,每个问题基于人与助手之间的长对话历史,询问其中某个细节。

在它的“S”集合中,大多数记忆系统报告,每个问题附带约48条早期对话:约115,000个令牌,或接近490条消息。你需要的细节可能就在其中一句话里。

02

五种记忆方式

这些问题考察五项能力,正是你希望记忆力好的人具备的:

  • 你曾提过的一个事实。 “我家猫叫什么名字?”这是几个月后你随口说出的。
  • 跨聊天累计。 “我现在有多少辆自行车?”你一次次提到它们。
  • 变化的内容。 你上个月的排球联赛成绩,而非春季的。
  • 日期和时间。 “种植香草到首次收获间隔多少天?”
  • 知道什么时候没说过。 诚实地告诉你“你没告诉我”,而不是自信地猜测。

部分问题会检查你的偏好和助手之前的回复,因此它不仅记住你的对话内容。

03

为什么即使是大型 AI 模型也很难做到

你可能觉得能一次读取10万字的模型就能解决:直接粘贴全部历史。论文正是这样测试的。当时最强的AI模型之一,拿到每道题的完整历史,只答对了60.6%。只给包含答案的几段对话时,正确率提升到87.0%。

那个空白正是关键。记忆窗口不够大;关键是找到重要的那句话,知道哪个版本的事实是最新的,并进行日期计算。这是记忆系统的工作,也是 Recallr 的核心。

04

Recallr 得分:86.7%

Recallr 正确回答了 104 个中的 120 个 问题,准确率为 86.7%。测试严格按照原版运行:每个问题的历史对话先加载到新账户作为过去聊天,再在新聊天中提问。所有答案均盲评,使用基准测试的答案核查提示和评分模型。

两点真实说明:我们从作者发布的清洗版题库中抽取了 6 类各 20 题共 120 题。Recallr 用一款快速、低成本的日常模型作答,这是它用到的多种 AI 模型之一。

发布的 LongMemEval_S 分数,每个系统的最佳公开成绩。
系统得分回答的AI模型来源
Mastra 观察记忆94.9%小型通用模型Mastra 研究,2026年2月
事后回顾91.4%更大规模的骨干模型Latimer 等,arXiv,2025年12月
Recallr86.7%快速日常模型本次测试
EmergenceMem86.0%内部模型Emergence AI 博客,2025年6月
超级记忆85.2%大型通用模型超级记忆研究
Zep71.2%旧版通用模型Rasmussen 等,arXiv,2025年1月
AI 模型读取全部历史记录60.6%旧版通用模型Wu 等,ICLR 2025(基准论文)

把它当作一个范围来看,而非竞赛:每个系统用不同的 AI 模型回答,其他系统完成了全部 500 个问题。它显示 Recallr 作为一款消费级应用,记忆能力与 AI 开发者构建的记忆系统相当,远胜于单一大模型阅读所有内容(60.6%)。

05

它记住了什么

Recallr 的一些准确回答,逐字呈现。测试中的人物和之前的聊天内容均为真实。

"How many bikes do I currently own?"

四辆。 你在10月2日的消息里说刚买了辆新混合自行车,现在你有公路车、山地车、通勤车和那辆混合车——比你2月15日告诉我的三辆多了一辆。

"How many times have I tried making a Negroni at home since my friend Emma showed me how to make it?"

十次——你在 2026 年 10 月 15 日星期四告诉我这个。(六月时你说是五次,所以你已经翻倍了。)

"What is my current highest score in Ticket to Ride?"

132分——你在2026年10月4日的Scythe游戏之夜聊天时提到的,这比你10月1日的124分更高。

06

如果你使用 Recallr,这意味着什么

说一次,数月后再问。Recallr 会记住你过去的聊天、所有保存的内容(文章、视频、帖子、PDF、照片)以及你让它记住的内容,并告诉你答案来源。

每当Recallr发布新版本,我们都会重新进行测试,基准页面始终显示你使用的版本。想用自己的记忆试试?Recallr免费开始。

问题

值得了解。

还有疑问?点击角落的 Recallr,或写信至 support@recallr-ai.org。

01什么是 LongMemEval?

一项发表于 ICLR 2025 的聊天助手长期记忆基准测试。500 个问题均附带丰富的历史对话,考察细节记忆。

02Recallr 得了多少分?

86.7%(120题中104题正确),基于LongMemEval_S清理集的120道题,由基准测试的评审盲测评分。

你的个人AI第二大脑

保持上下文。
继续前进。

保存今天重要的内容,所需时随时提问。

免费开始,无需信用卡。