轻量级身材却塞进了循环 MoE 架构、多模态能力与百万级上下文,开源圈又迎来一颗硬核新星。
🔹循环 MoE 架构:总计 262 亿参数、活跃 34 亿,中间 12 层循环运行三次,兼顾推理效率与表征深度。
🔹图文多模态 + 100 万上下文:支持文本与图像输入,具备 100 万 tokens 超长上下文窗口。
🔹Apache 2.0 协议 + 约 20GB 轻量权重:采用 NVFP4 等格式,检查点体积仅约 20GB,本地部署与二创门槛大幅降低。
抢先放出的小钢炮权重,会成为下一波高效 Agent 与本地多模态应用的新宠吗?
Hugging Face: https://huggingface.co/thinkingmachines/Inkling-2-Mini