Latent Space· swyx .ai·· 2 小时前AI 评分75
Thinking Machines 发布 Inkling 2 Small：17B 激活参数、594B 总参数，预训练耗时 68 小时
[AINews] Inkling 2 Small: 17A-594B trained in 68 hours on 12T tokens, beating Muse Spark
AI 导读
Thinking Machines 发布了 Inkling 2 Small，这是一款总参数量 594B、激活参数量 17B 的多模态 MoE 模型。团队称，模型在 GB300 上以 NVFP4 完成预训练，耗时 68 小时；主预训练阶段使用 8.4T tokens，后训练包含 17M 次 rollout、历时 9 天。
来源：Latent Space · latent.space