Hugging Face Blog·· 2 天前精选AI 评分79
Thinking Machines Lab 发布 Inkling 2 Mini 多模态循环模型
Welcome Inkling 2 Mini, Cutting-edge Performance for your Local Setup
AI 导读
Thinking Machines Lab 发布 Inkling 2 Mini,这是一款采用循环 Transformer 架构的多模态混合专家模型。该模型拥有约 26B 总参数和 3B 激活参数,通过将中间层循环运行三次以模拟 48 层逻辑深度,支持 1M 上下文窗口及图像输入。
推荐理由
该模型通过创新的循环层架构在有限参数下实现了高推理性能,为本地部署提供了兼顾多模态能力与编码任务的高效选择。
来源:Hugging Face Blog · huggingface.co