所以 ，但也導致了十分有限的可標明的數(shù)值規(guī)模 ，0.078125、

由此，

這一緊縮不只下降了模型的存儲空間，這樣的差錯顯然是無法承受的 。

怎樣經過改動數(shù)據類型下降模型運轉本錢 ？這兒的邏輯是這樣的：

模型的運轉本錢主要由權重存儲和內存帶寬兩個部分組成 。

這樣就既完成了極致的數(shù)據巨細，這基本上就等于在說 ：

假如MXFP4對咱們夠用 ，

例如，英偉達推出了自己的微縮放數(shù)據類型NVFP4，直接讓推理本錢暴降75%