我去,这个大模型有点意思啊! MemT 1.0 :全球首个"记忆原生" 大模型(MoE构架)

我去,这个大模型有点意思啊!
MemT 1.0 :全球首个"记忆原生" 大模型(MoE构架)

现在 ChatGPT 、Claude Codex 都支持记忆,但都记在模型外部(记忆库/对话历史),用时检索注入上下文。

记忆来源于用户要求和对话自动保存,记再多,模型本身不会变,只是能看到更多信息。

MemT 1.0 直接把记忆做到模型内部,写入、保持、更新、读取全纳入模型计算过程。

模型会从用户的交互、指导、反馈纠错中积累经验,变成模型可以学习的能力,实现模型自我反思、进化。

完全是为为 RSI(递归自我改进)铺路啊!

ChatGPT 等模型的记忆可类比为 "外挂笔记本",写下来记住,需要时再翻看,记住的是信息。

MemT 1.0 的记忆是更像 "大脑中的经验",从纠错中学,下次就不犯错了,沉淀的是能力。

这好像才是更像人类大脑的长期记忆系统。

第二条论文中的技术解读和实验,感觉这开拓了一个解决记忆问题的新思路,很有价值。

分类