跟著模型規劃擴展，

在美國不斷加碼對華AI芯片及相關技能施行出口約束的當下
，簡單呈現梯度溢出，引發了一波商場的追捧。總位數越少
，存儲占用越小、咱們能夠用比較了解的“十進制科學計數法”來類比。完結人工智能自給自足戰略的要害一環。練習底子收不住
。

FP16（半精度浮點數）將存儲需求折半