Berkeley AI Research·精选AI 评分78
从 CUDA 到 MLX:K-Search 如何将 GPU 内核优化经验迁移至 Apple Silicon
From CUDA to MLX: How K-Search Brings Decades of Kernel Expertise to Apple Silicon
AI 导读
研究团队扩展了 K-Search 框架,通过引入 CUDA 到 MLX 的结构化翻译层,使 AI 能够自动将 NVIDIA 平台的内核优化经验适配至 Apple Silicon。实验结果显示,该方法在 Attention 内核上实现了近专家级性能,并在 Mamba SSM 内核的预填充任务中取得了比社区实现快 20 倍的吞吐量。
推荐理由
该研究展示了如何通过结构化翻译层将 CUDA 核心优化经验迁移至 Apple Silicon,为非 NVIDIA 硬件上的高性能算子开发提供了可复用的自动化路径。
来源:Berkeley AI Research · bair.berkeley.edu