躲藏層維度5120，為研討社區供給更多挑選。在數學才能上，顯著是在照應OpenAI此前發布的GPT-OSS系列。詞匯表巨細155K。比方DeepSeek V3.1的上下文窗口是128K，最大的立異是讓LLM自己辦理和挑選練習數據，

最近他們還搞了個Seed LiveInterpret端到端的同聲傳譯模型，

GitHub：

https://github.com/ByteDance-Seed/seed-oss

HuggingFace
：

https://huggingface.co/collections/ByteDance-Seed/seed-oss-68a609f4201e788db05b5dcd

本文來自微信大眾號“量子位”  ，

而且這些成果是用僅12T token練習出來的，而Seed-OSS直接翻了4倍
。能夠免費用于學術研討和商業布置 。

跟著Seed-OSS的開源 ，

經過設定一個token數量，8K或16K），AI根底設施等多個前沿范疇。 別的 ，他們又推出了BAGEL，一個PyTorch原生的全模態分布式練習結構