小讯AIGC

新京报贝壳财经讯（记者罗亦丹）1月12日晚间，DeepSeek发布了一篇新论文，主题为《Conditional Memory via Scalable Lookup:A New Axis of Sparsity for Large Language Models》（直译为基于可扩展查找的条件记忆：大语言模型稀疏性的新维度），梁文锋再度出现在了作者名单最后。这篇论文为北京大学和DeepSeek共同完成。

新京报贝壳财经记者浏览发现，这篇论文的核心直指当前大语言模型存在的记忆力“短板”，提出了“条件记忆”这一概念。

为了实现“条件记忆”，DeepSeek提出的解决方案是一个名为Engram（直译为：记忆痕迹）的模块，它将语言建模任务拆解为“静态模式检索”与“动态组合推理”两大分支：前者负责实体、固定短语等确定性知识的快速调取，后者则交由Transformer架构专注完成复杂逻辑运算。

论文最后表示，“我们将条件记忆视为下一代稀疏模型不可或缺的建模原语。”

当前，有不少声音猜测DeepSeek的下一代模型将于春节前发布，复现2025年春节期间盛况。这一背景下，此篇论文或为模型的“庐山真面目”提供了方向。

编辑 杨娟娟

校对 杨利