與傳統根據單標簽方針的言語建模辦法不同 ，而無需進行模型特定調整或額定練習 。但在法令文本范疇仍有改善空間 。
展現單個 Memory Decoder 在 Qwen 模型（0.5B-72B）帶來的功用提高；詳細如下：
1.WikiText-103 中的言語建模
表｜GPT2 模型在 WikiText-103 數據集上的域習慣辦法的困惑度比照
上表展現了 Memory Decoder 在一切 GPT2 模型尺度上的有用性
在线亚洲巨乳中字不调参、不吃力，上海交大&上海AI Lab推出“回忆解码器”，恣意LLM无缝自适应-6488avav
單個 Memory Decoder 可無縫集成到任何運用相同 tokenizer 的 LLM 中 ，跨詞匯習慣，在預練習階段學習仿照非參數檢索散布 ，僅需 1.24 億參數的單個 Memory Decoder ，單個Memory Decoder (0.5B 參數）在 Qwen2 和 Qwen2.5 系列的一切模型中均能繼續提高功用 。