苹果批准Tiny Corp的Nvidia eGPU驱动，Arm Mac终于可用Nvidia显卡跑LLM

突破：外接Nvidia GPU通过签名驱动在Apple Silicon上运行

Tiny Corp取得里程碑式突破，苹果批准了一款驱动程序使Nvidia eGPU能在基于Arm的Mac上运行，为在苹果硬件上使用Nvidia GPU进行LLM推理打开了大门。

工作方式

• 驱动由Tiny Corp而非Nvidia直接开发
• 用户需通过Docker编译驱动而非即插即用
• 驱动专为LLM工作负载设计
• 苹果允许该驱动获得签名，无需禁用系统完整性保护（SIP）

重要意义

这一进展具有重要意义：

• 苹果多年来一直限制Mac上的Nvidia GPU支持
• 取消SIP禁用要求使主流用户也能使用
• 弥合了Apple Silicon效率与Nvidia GPU计算能力之间的差距
• 使开发者能在Mac硬件上使用Nvidia CUDA生态

使用场景

主要用例是LLM推理加速。开发者现在可以将Mac的易用性与Nvidia GPU的性能相结合运行大型语言模型，可能提供专用AI工作站的性价比替代方案。

背景

Tiny Corp由George Hotz领导，以其tinygrad框架和硬件项目闻名。该公司一直致力于通过开源软件使强大硬件更易于获取，推动AI计算的民主化。

来源：The Verge via Tiny Corp https://www.theverge.com/tech