python3 -m sglang.launch_server --model /local/grok-2 --tokenizer-path /local/grok-2/tokenizer.tok.json --tp 8 --quantization fp8 --attention-backend triton
發送懇求
這是一個通過額定練習的模型,xAI將打造出5000塊H100巨無霸超算 。
較新的練習數據:其預練習數據覆蓋了很多的文本和代碼,
登上Hugging Face,真是有點等待,馬斯克曾預告了下一步路線圖——
8月將發布編碼模型