苹果M3 Ultra神了跑DeepSeek比8卡A100还快

B站UP主“虽然但是张黑黑”近日分享了一段视频，展示了满血版苹果M3 Ultra的强大性能。在运行6710亿参数的DeepSeek R1模型测试中，其速度甚至超过了8张A100显卡，而成本却远低于后者。而满血版M3 Ultra仅需一台Mac Studio即可实现类似的性能，性价比极高。

ChMkK2fRTROIW73dAABwApnpWs0AAp63gBUnzEAAHAa520.jpg

测试数据显示，在GGUF格式下，满血版M3 Ultra运行DeepSeek R1模型的速度为15.78 Tokens/s，而8张A100显卡的性能为16.41 Tokens/s。当切换到能发挥统一内存优势的MLX格式后，M3 Ultra的速度提升至19.17 Tokens/s，超越了8张A100显卡。此外，在运行DeepSeek V3 6710亿参数模型时，M3 Ultra的速度也达到了19.66 Tokens/s。
尽管如此，M3 Ultra并非在所有场景下都能超越A100。在单用户进行单一模型推理时，由于主要依赖内存带宽和容量，A100的潜力无法被完全发挥。在多用户推理和大模型训练场景下，M3 Ultra更是无法与A100相提并论。

ChMkK2fRTRSIRKaeAABbIL2Nur8AAp63gBW9F8AAFs4912.jpg

此次测试的满血版M3 Ultra配备了512GB统一内存，总价为74249人民币。