跳到正文
热点事件持续更新

Thinking Machines 开源多模态模型 Inkling 2 Mini

2 篇报道2 个报道来源首报15 小时前更新

先了解这件事

AI 综述

Thinking Machines 发布了开源多模态模型 Inkling 2 Mini,该模型采用循环 Transformer 架构,支持 100 万 token 上下文窗口及图文输入,现已在 Hugging Face 开源。 该模型为混合专家模型,据官方称拥有 26.4B 参数,因循环机制每 token 激活 5.4B 参数。硬件要求方面,该模型可在配备至少 32GB 内存的 Mac 或 Nvidia DGX Spark 上本地运行,并采用 Apache 2.0 协议授权。

AI 根据报道生成 · 13 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月21日
  1. The Decoder精选
    Thinking Machines 发布开源模型 Inkling 2 Mini

    Thinking Machines 发布了开源多模态模型 Inkling 2 Mini,该模型采用循环 Transformer 架构,通过重复运行部分层实现更长的内部推理,且无需增加输出文本长度。模型拥有 26.4B 参数(每 token 激活 5.4B),支持 100 万 token 上下文窗口,在编码测试中表现优于同规模模型,并已在 Hugging Face 开源。

11月20日
  1. Hugging Face Blog精选
    Thinking Machines Lab 发布 Inkling 2 Mini 多模态循环模型

    Thinking Machines Lab 发布 Inkling 2 Mini,这是一款采用循环 Transformer 架构的多模态混合专家模型。该模型拥有约 26B 总参数和 3B 激活参数,通过将中间层循环运行三次以模拟 48 层逻辑深度,支持 1M 上下文窗口及图像输入。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。