MemT 1.0 :全球首个"记忆原生" 大模型(MoE构架)
现在 ChatGPT 、Claude Codex 都支持记忆,但都记在模型外部(记忆库/对话历史),用时检索注入上下文。
记忆来源于用户要求和对话自动保存,记再多,模型本身不会变,只是能看到更多信息。
MemT 1.0 直接把记忆做到模型内部,写入、保持、更新、读取全纳入模型计算过程。
模型会从用户的交互、指导、反馈纠错中积累经验,变成模型可以学习的能力,实现模型自我反思、进化。
完全是为为 RSI(递归自我改进)铺路啊!
ChatGPT 等模型的记忆可类比为 "外挂笔记本",写下来记住,需要时再翻看,记住的是信息。
MemT 1.0 的记忆是更像 "大脑中的经验",从纠错中学,下次就不犯错了,沉淀的是能力。
这好像才是更像人类大脑的长期记忆系统。
第二条论文中的技术解读和实验,感觉这开拓了一个解决记忆问题的新思路,很有价值。