功用評價

研討團隊評價了 Memory Decoder 在 6 種互補場景下的功用 ：

• 在 WikiText-103 數據集上的言語建模
  ，

  即便在使用于更大規劃的模型時，來自上海交通大學和上海AI Lab 的研討團隊提出了一個“即插即用”的預練習回想模塊——“回想解碼器”（Memory Decoder），

  2.下流功用

  

  表｜在情感剖析、

  此外，相似的改善也延伸至 Llama3.1 和 Llama3.2 ，但仍需進行部分參數調整以對齊嵌入空間