一起跑兩個 670 億參數大模型是什么體會 ?
4 臺頂配 M3 Ultra 的 Mac Studio 經過 Thunderbolt 5 串聯后 ,顯存一般也只要 96GB。總算從抱負變成了實踐。而 Exo 的軟件會將模型拆分布置到 2 臺 Mac Studio 上完結加載
4 臺頂配 M3 Ultra 的 Mac Studio 經過 Thunderbolt 5 串聯后 ,顯存一般也只要 96GB。總算從抱負變成了實踐。而 Exo 的軟件會將模型拆分布置到 2 臺 Mac Studio 上完結加載