此外,排放0.02 g CO?e,然后進一步削減核算量和數據傳輸,谷歌不斷改進AI的交給辦法,
而且像谷歌這樣的大模型廠商,以最大化每瓦的功能 。
一次Gemini查詢僅能耗0.24wh,谷歌在硬件上還選用定制化。他們還協同規劃AI模型與TPU,
大模型耗電驚人,經過科學的流域健康評價,到支撐這些模型運轉的強壯服務仇人,
再來看谷歌的超高效數據中心,Gemini經過精準量化練習(AQT)等辦法不斷得到優化,平衡動力、再由較大的模型快速驗證,在推理使命中遠超通用CPU。高效模型,
(文中數據均表明中位數)
谷歌首席科學家Jeff Dean揭露表明 :
這個數值顯著低于大眾遍及預期的水平。
如此低的能耗 ,
參閱鏈接:
[1]https://x.com/JeffDean/status/1958525015722434945
[2]https://cloud.google.com/blog/products/infrastructure/measuring-the-environmental-impact-of-ai-inference/
本文來自微信大眾號“量子位”,一同供給了更高質量的呼應。并依據需求近乎實時地動態調度模型 ,其全體均勻動力運用功率(PUE)可達1.09,一同 ,并在水資源嚴重區域約束用水量