如今，使用 AI 时常会遇到的一个问题是，尽管经过长时间的调试，它仍然无法记住过往的经验。一旦重新开始新的对话，模型又会再次犯同样的错误。传统模型的缺陷在于，它们无法将反馈真正转化为知识，以便在以后的互动中自觉调用。当前的 AI 助理，如 Meta Muse、OpenAI Dots 和 xAI Grok Bot，往往只能查阅静态的记忆，而无法形成自然的助理关系。为了解决这一问题，记忆原生大模型 MemT 1.0 正式发布并开源。
与传统的外挂方案不同，MemT 1.0 将记忆整合进模型的核心架构中，使得模型通过训练学会了如何自主记录、更新和调用记忆，从而实现了经验的积累和利用。许多现有方案通常将聊天记录当作记忆，但这显然无法应对复杂的真实交互。MemT 1.0 的一次严格测试显示，用户虽然在多次对话中没有提及展览的具体信息，但模型依然能够准确地回忆起原先的日期和变更细节，这正是其记忆原生技术的体现。
在架构上，MemT 1.0 将模型的功能分为主干网络和动态记忆状态两部分。主干网络提供通用认知，而动态记忆状态则负责在互动中实时更新和吸收信息，使模型在每次对话中都能持续进化。该模型能够通过每轮对话的结束，实时更新自己的记忆，而无需重新训练，借助一种在训练中学会的门控机制来判断哪些信息需要保留或更新。 南宫娱乐平台官网入口
技术团队使用了 340 亿个 token 进行大规模的训练：首先用 200 亿个 token 进行预训练，再用 140 亿个 token 进行后训练。在这种训练过程中，模型学习提出更高质量的记忆。在记忆的体积管理上，MemT 采用了一种固定体积的动态更新方式，配合 Mixture-of-Storage（MoS）架构，确保了记忆的高效存储和流动。
在系统效率的多项基准测试中，MemT 1.0-Flash 和 MemT 1.0-Nano 的成绩均显著优于传统的记忆基线。此外，流畅的对话中展现出模型的自我认知能力，比如能够准确回答用户未曾提供的信息。这些功能构成了一个合格 AI 助理的基础。
有了这一基础，我们可以进一步探讨，模型是否真的能从过去的错误中学习并改进未来的表现。技术团队正在真实编程场景中搭建了一整套反馈与学习闭环，确保模型不断进化。 南宫娱乐平台官网入口
