考慮到組成指令數據或許影響后練習研討，詞匯表巨細155K。Seed-OSS-36B-Base在MMLU-Pro上到達了65.1分，一個PyTorch原生的全模態分布式練習結構。Seed-OSS選用了老練安穩的規劃
：

360億參數的稠密模型（不是MoE） ，他們發布了Seed-Coder ，雜亂代碼庫了解等需求處理海量信息的專業場景，

關于簡略使命 ，

512K上下文窗口 ，相比之下 ，

推理才能的BBH基準測驗得分87.7 ，模型在推理進程中會這樣作業 ：仿制

好的，圖畫和視頻的統一多模態模型，

GitHub