Recallr 在 LongMemEval 長期記憶標準測試中得分 86.7%。
每個問題都隱藏約 48 次先前對話中的一個細節,接近 490 則訊息,然後再請你回覆。這讓 Recallr 進入 AI 開發者打造的記憶系統範圍。
- 這份清單中唯一的消費者應用程式,其他都是供開發者整合進自家產品的記憶系統。
- 使用快速且低成本的日常模型測試。這裡的一些結果則用到了更大型的模型。
86.7%104 / 120 問題
在記憶系統 AI 開發者所建立的範圍內。
已公開的 LongMemEval 分數,皆為各團隊最佳成績,標註回答所用 AI 模型類型與來源連結。
- 1Mastra 觀察記憶AI 代理的記憶體(開源)94.9%小型通用模型Mastra 研究,2026 年 2 月 · 舊版通用模型答對率 84.23%
- 2事後回顧AI 代理的記憶體(研究用)91.4%更大型的主模型Latimer 等,arXiv,2025年12月 · 83.6% 使用開源 20B 模型
- 3Recallr消費者應用程式的出貨狀態。86.7%快速日常型模型
- 4EmergenceMemAI 代理的記憶體86.0%內部模型Emergence AI 部落格,2025 年 6 月 · 無法公開重現;其公開方法用舊版通用模型得分 82.4%
- 5超級記憶AI 應用的記憶體 API85.2%大型通用模型超級記憶研究 · 另一大型通用模型答對率 84.6%
- 6ZepAI 代理的記憶體71.2%舊版通用模型
- 7讀取完整歷史紀錄的 AI 模型無記憶系統:每次提示都包含完整約 115,000 字元的歷史紀錄60.6%舊版通用模型
幾週或幾個月後,在新聊天中提問。
Recallr 四個逐字正確的答案。人物與他們早先的聊天即為測試內容。
先前提過的 about 8 months
我目前擁有多少輛自行車?
四台。 你在10月2日的訊息中說你剛買了一台新混合車,現在你有公路車、登山車、通勤車和那台混合車——比你2月15日告訴我的三台多了一台。
先前提過的 about 4 months
自從朋友 Emma 教我做 Negroni 以來,我在家嘗試做了幾次?
十次——你在 2026 年 10 月 15 日星期四告訴我這個。(六月時你說是五次,現在已經翻倍了。)
先前提過的 3 weeks
我在《Ticket to Ride》目前最高分是多少?
132分——你在2026年10月4日的Scythe遊戲之夜聊天時提到的。這比你10月1日的124分還高。
先前提過的 4 weeks
從我開始澆灌香草園到收成第一批新鮮香草,過了多少天?
24天——你從2026年9月23日開始每天澆水,並在2026年10月17日收成了第一批。
測試內容與執行方式。
- 測試
- LongMemEval(Wu 等人,ICLR 2025)檢測聊天助理是否能記住你多次對話中告訴它的資訊:你提過的事實、後來改變的內容、日期、偏好,以及它告訴你的事。它的「S」組會針對 48 次先前對話的每個問題進行搜尋。論文。
- Recallr
- Recallr 的目前版本,正如出貨時的狀態,測試於 October 2026。每個問題的先前聊天紀錄都被載入新帳號作為過去聊天,然後在新聊天中提出問題。
- 問題列表
- 120 個,共 500 個,從清理過的資料集中,每種六類均等分配 20 個。
- AI 模型
- 一個快速、低成本的日常模型回答了所有問題;這是 Recallr 其中一個使用的 AI 模型。每個答案都以盲測方式評分,採用評測集自帶的檢查提示與評分模型。
- 其他系統
- 他們在同一測試上的公開結果,6 個來源,查核日期為 2026 年 10 月 20 日。圖表應視為範圍而非競賽:每套系統使用不同 AI 模型,且皆完成 500 題問題。
值得知道。
還有疑問?點擊右下角的 Recallr,或寫信至 support@recallr-ai.org。
01什麼是 LongMemEval?
ICLR 2025 發表的聊天助理長期記憶標準基準測試。500 個問題各附數十段先前對話,詢問其中一個細節,助理必須找到並運用你說過的內容,而非猜測。
02Recallr 的記憶在應用程式中是一致的嗎?
是的。測試在目前版本的 Recallr 上進行:相同的記憶、相同的過去聊天搜尋和相同的答案檢查。
03為什麼是120個問題,而不是全部500個?
每個問題都需要自己的帳號和數十次先前對話,我們從六種測試中各抽取均等的 20 次。Recallr 推出新版本時,我們會重新測試並更新此頁。