老馬自傲滿滿地表明,
python3 -m sglang.test.send_one --prompt "Human: What is your name?<|separator|>Assistant:"
你應(yīng)該能看到模型輸出姓名——Grok。所以需求運用正確的對話模板。登上Hugging Face
老馬自傲滿滿地表明,
python3 -m sglang.test.send_one --prompt "Human: What is your name?<|separator|>Assistant:"
你應(yīng)該能看到模型輸出姓名——Grok。所以需求運用正確的對話模板。登上Hugging Face