一個大模型或許只需求幾十到幾百張練習(xí)芯片(如 GPU) ,華為等廠商推出功能挨近的練習(xí)芯片
青青草手机视频在线GPU王座不坚定?ASIC改写规矩-6488avav
練習(xí)使命的“靈敏性” 與 GPU 架構(gòu)天然符合 ,Marvell的詳細事務(wù)中,Google 和 AWS 的 AI TPU/ASIC 的總出貨量現(xiàn)已到達 Nvidia AI GPU 出貨量的 40%-60%
。AWS的Trainium 2 在推理使命中性價比比 H100 高 30%-40%,