查看: 8|回复: 0

一位工程师运行着一个 Kimi K3 记忆层,每月费用 11 美元,它负责记住一个价值 50 万美元的向量数据库不断丢失的信息。

[复制链接]

10

主题

2

回帖

34

积分

新手上路

积分
34
发表于 4 小时前 | 显示全部楼层 |阅读模式
一位工程师运行着一个 Kimi K3 记忆层,每月费用 11 美元,它负责记住一个价值 50 万美元的向量数据库不断丢失的信息。没有嵌入。只有四个节点,以及一条关于哪些信息可以遗忘的规则。

他公布了整个架构。

他的版本从相反的理念出发。记忆不是一堆可以搜索的信息,而是一组声明,除非有人持续付费,否则它们就会过期。

四个节点。每个记忆都带有一个需要有人重置的时钟:

> 写入器 - 存储一个事实及其重要性,而非原始文本

> 衰减器 - 降低每个记忆的“年龄”。沉默即为删除

> 更新器 - 只重新激活模型实际再次使用的记忆

> 坟墓 - 保存已失效的信息,以及无人使用的原因

三个节点负责保持记忆的有效性。一个节点负责保存失效的信息。这里的“回忆”并非存储,而是事实必须持续获得的“租金”。

这就是整个设计。当所有信息都被永久记住时,有用和过时的信息检索方式完全相同。

他重现了两个月的智能体上下文。存储了 9 万条事实。其中 7.1 万条从未被检索过。向量存储根据相似度返回了所有这些事实。相似度衡量的是接近程度。没有人评估记忆是否正确。

其他人只是把更多的信息塞进上下文窗口,然后称之为记忆。他构建了一个层,除非事实不断证明自身价值,否则它就会被淘汰。代价不是存储空间,而是发现你的智能体“知道”的信息中有多少从未被使用过。

下面的文章是完整的构建过程——节点提示、衰减曲线和更新规则。

保存它。你需要在另一个标签页中打开它。

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部