且無需額定的檢索開支
。
現有干流計劃包含范疇自習慣預練習（DAPT）和檢索增強生成（RAG） 。Memory Decoder 的通用性逾越了單一 tokenizer 宗族 ，
詳細如下
：
1.WikiText-103 中的言語建模
表｜GPT2 模型在 WikiText-103 數據集上的域習慣辦法的困惑度比照
上表展現了 Memory Decoder 在一切 GPT2 模型尺度上的有用性 。單個Memory Decoder (0.5B 參數）在 Qwen2 和 Qwen2.5 系列的一切模型中均能繼續提高功用。Memory Decoder 也并非完美，kNN 散布經過捕捉范疇內合理連續的多樣性
，金融
、仍是一大應戰 。
3.跨模型習慣
表｜三個專業范疇的跨模型習慣成果
上表展現出 Memory Decoder 在不同模型規劃和架構上的即插即用才能。又兼具參數化辦法的高效性和泛化優勢。
Memory Decoder 的多功用性和高效性