Skip to main content

Qwen2.5 72B con M4 Ultra: ¿Compatible?

72B parámetros · 128GB VRAM (Unified Memory) · Apple

Compatible — la M4 Ultra puede ejecutar Qwen2.5 72B

Alta calidad disponible. 87GB de margen sobre Q4.

Análisis de VRAM por cuantización

Cuantización VRAM requerida Tu GPU ¿Funciona?
FP16 (máxima calidad) 144 GB 128 GB ✗ No
Q8 (alta calidad) 72 GB 128 GB ✓ Sí
Q4 (recomendado) Recomendado 41 GB 128 GB ✓ Sí
Q2 (mínimo) 21 GB 128 GB ~ Parcial

Instalar con Ollama

Ejecuta este comando en tu terminal para descargar y correr Qwen2.5 72B:

ollama run qwen2.5:72b

Requiere Ollama instalado. Descárgalo gratis en ollama.ai

Rendimiento estimado

Velocidad estimada ~26 tok/s (rápida (cómoda para uso diario))
Margen de VRAM en Q4 +87 GB
Mejor cuantización disponible Q8
Ancho de banda de memoria 1092 GB/s

Comprar M4 Ultra

La M4 Ultra es una opción sólida para ejecutar Qwen2.5 72B.

Aviso de afiliado: Este enlace es patrocinado. Podemos recibir una comisión sin coste adicional para ti.

Ver M4 Ultra en Amazon →