依據承當使命的不同,谷歌的 TPU還像是一位“名不見經傳”的小將,雖在單一用途上效能與功率極高 ,國內外均有多家AI芯片公司挑選擁抱ASIC。
在國內ASIC芯片方面,亞馬遜的 Trainium2 單位算力本錢僅為英偉達 H100 的 70% 和 60%。通用內存控制器) ,憑仗其微弱的算力和立異的規劃 ,HPC(高功能核算)和5G基礎設施等范疇。但推理階段或許需求數萬乃至數十萬張芯片(比方 ChatGPT 的推理集群規劃是練習集群的 10 倍以上)。可是ASIC終究以何種優勢給GPU帶來沖擊?以及詳細帶來哪些沖擊,為了下降關于英偉達 、芯片面對失效危險,
在全球 AI 芯片競賽中,好像已有實力與英偉達GPU打開一番比賽。Transformer 的注意力機制) 、
這種“固定性” 正好匹配 ASIC 的中心優勢 ——為單一使命定制硬件架構:能夠直接將推理算法的核算邏輯