Skip to main content

Magistral Small 24B con M3 Pro: ¿Compatible?

24B parámetros · 18GB VRAM (Unified Memory) · Apple

Compatible — la M3 Pro puede ejecutar Magistral Small 24B

Cuantización Q4 recomendada. 4.800000000000001GB de margen disponible.

Análisis de VRAM por cuantización

Cuantización VRAM requerida Tu GPU ¿Funciona?
FP16 (máxima calidad) 52.8 GB 18 GB ✗ No
Q8 (alta calidad) 26.4 GB 18 GB ✗ No
Q4 (recomendado) Recomendado 13.2 GB 18 GB ✓ Sí
Q2 (mínimo) 6.6 GB 18 GB ~ Parcial

Instalar con Ollama

Ejecuta este comando en tu terminal para descargar y correr Magistral Small 24B:

ollama run magistral:24b

Requiere Ollama instalado. Descárgalo gratis en ollama.ai

Rendimiento estimado

Velocidad estimada ~11 tok/s (moderada (funcional para uso puntual))
Margen de VRAM en Q4 +4.800000000000001 GB
Mejor cuantización disponible Q4
Ancho de banda de memoria 150 GB/s

Comprar M3 Pro

La M3 Pro es una opción ajustada para ejecutar Magistral Small 24B.

Aviso de afiliado: Este enlace es patrocinado. Podemos recibir una comisión sin coste adicional para ti.

Ver M3 Pro en Amazon →