- 128 核 CPU(32×4)
- 240 個 GPU 中心(80×4)
- 2TB 一致內存(512GB×4)
- 總內存帶寬超越 3TB/s
這樣的組合,36氪經授權發布。它不是為了與 H100 正面對立,反而十分合適 AI 本地推理這件事,
私有文檔 RAG 問答:拖入公司財報 PDF,模型在本地完結常識嵌入與問答,真實發揮效能的要害是 Exo Labs 開發的分布式模型調度渠道 Exo V2
這樣的組合,36氪經授權發布。它不是為了與 H100 正面對立,反而十分合適 AI 本地推理這件事,
私有文檔 RAG 問答:拖入公司財報 PDF,模型在本地完結常識嵌入與問答,真實發揮效能的要害是 Exo Labs 開發的分布式模型調度渠道 Exo V2