Thinking Machines Lab 发布 Inkling 2 Mini 多模态循环模型
Thinking Machines Lab 发布 Inkling 2 Mini,这是一款采用循环 Transformer 架构的多模态混合专家模型。该模型拥有约 26B 总参数和 3B 激活参数,通过将中间层循环运行三次以模拟 48 层逻辑深度,支持 1M 上下文窗口及图像输入。
推荐理由:该模型通过创新的循环层架构在有限参数下实现了高推理性能,为本地部署提供了兼顾多模态能力与编码任务的高效选择。
技术方向
直接跑在手机、电脑等设备上的 AI:小模型、在本机运行模型的工具与端侧芯片。
2 条精选近 30 天 2 条共收录 2 条
Thinking Machines Lab 发布 Inkling 2 Mini,这是一款采用循环 Transformer 架构的多模态混合专家模型。该模型拥有约 26B 总参数和 3B 激活参数,通过将中间层循环运行三次以模拟 48 层逻辑深度,支持 1M 上下文窗口及图像输入。
推荐理由:该模型通过创新的循环层架构在有限参数下实现了高推理性能,为本地部署提供了兼顾多模态能力与编码任务的高效选择。
NVIDIA 推出 RTX Spark 紧凑型桌面电脑,由 ASUS、Dell 和 MSI 等厂商提供,搭载 NVIDIA Grace CPU 和 Blackwell RTX GPU,支持本地运行大模型、智能体及模型微调。
推荐理由:NVIDIA 推出的 RTX Spark 紧凑型桌面电脑通过整合高性能硬件与 AI 软件栈,为开发者和创作者提供了本地运行大模型及智能体的专用环境。