跳到正文

技术方向

端侧 AI 最新动态

直接跑在手机、电脑等设备上的 AI:小模型、在本机运行模型的工具与端侧芯片。

2 条精选近 30 天 2 条共收录 2 条

更新

端侧 AI的精选

11月20日周五第 1–2 条
  1. Hugging Face Blog79

    Thinking Machines Lab 发布 Inkling 2 Mini 多模态循环模型

    Thinking Machines Lab 发布 Inkling 2 Mini,这是一款采用循环 Transformer 架构的多模态混合专家模型。该模型拥有约 26B 总参数和 3B 激活参数,通过将中间层循环运行三次以模拟 48 层逻辑深度,支持 1M 上下文窗口及图像输入。

    推荐理由:该模型通过创新的循环层架构在有限参数下实现了高推理性能,为本地部署提供了兼顾多模态能力与编码任务的高效选择。

11月18日周三
  1. NVIDIA Blog68

    NVIDIA 发布 RTX Spark 紧凑型桌面电脑

    NVIDIA 推出 RTX Spark 紧凑型桌面电脑,由 ASUS、Dell 和 MSI 等厂商提供,搭载 NVIDIA Grace CPU 和 Blackwell RTX GPU,支持本地运行大模型、智能体及模型微调。

    推荐理由:NVIDIA 推出的 RTX Spark 紧凑型桌面电脑通过整合高性能硬件与 AI 软件栈,为开发者和创作者提供了本地运行大模型及智能体的专用环境。