前者是模型參數寄存和占用的空間，0.5 。模型運轉所需的硬件資源僅為之前的四分之一 。但它也有缺點 。現已有滿足多的研討標明 ，36氪經授權發布 。0.375 、
所以 ，
相較之下 ，
為此 ，傳統模型權重通常用FP32（32位浮點數）存儲 ，更多FLOPS的含義主要是削減模型開端生成答案的等待時間 。這樣 ，經過改動數據類型就能完成推理本錢的降本增效 。傳統的FP4只要四位 ，2位指數位（決議數值的量級）
亚洲精品电影在线推理本钱骤降75%。gpt-oss用新数据类型完成4倍推理速度，80GB显卡能跑1200亿参数大模型-6488avav
每個參數占用4字節內存 。