故意张开腿给公看FlashAttention-4震慑来袭，原生支撑Blackwell GPU，英伟达的护城河更深了？-6488avav
Tri Dao 這一次的姓名掛在最終。FlashAttention 的 GitHub 軟件庫(kù)現(xiàn)已堆集了超越 1.91 萬(wàn)星
。Tri Dao 團(tuán)隊(duì)完成了兩項(xiàng)要害的算法改善 。可認(rèn)為 TogetherAI/Tri Dao 付出 5000 萬(wàn)美元來(lái)發(fā)動(dòng) ROCm 生態(tài)系統(tǒng) 。FlashAttention-4 運(yùn)用的是 CUTLASS CuTe Python DSL