在開始 ,
未來,由于KVCache需求在多GPU間頻頻同享與更新,英偉達引入了BlueField SuperNIC(Super Network Interface Card)與BlueField DPU(Data Processing Unit)的雙引擎協同架構。有用下降推遲、而在大型推理集群中,完結了傳統云根底設施走向AI的滑潤晉級擴展,一起能夠有用防止擁堵,完結Bare Metal的功用。還推出了依據敞開以太網規范的Spectrum溝通機。
另一方面,是英偉達從圖形處理走向AI數據中心供貨商的中心底層動力 。數據中心成為了核算機,肩負著“制作智能”的重要使命。面向具體問題構建徹底體系,為AI數據中心走向高功用和無限可擴展鋪平了路途