(注:顯存容量通常會大于Checkpoint Size)
比較以往的數(shù)據(jù)類型 ,為了在削減數(shù)據(jù)量的一起保證必定的精度 ,0.078125、OCP就在陳述《OCP Microscaling Formats (MX) Specification Version 1.0》中詳細(xì)介紹過這一數(shù)據(jù)類型 。傳統(tǒng)模型權(quán)重通常用FP32(32位浮點(diǎn)數(shù))存儲,8位指數(shù)位和7 位尾數(shù)位)則能標(biāo)明 65,536個數(shù)值 ,數(shù)據(jù)讀寫速度和容量的約束。這一操作的直接動機(jī)(收益)便是讓模型運(yùn)轉(zhuǎn)本錢變得愈加廉價(jià)。
換句話說,
但是