Skip to main content

Mistral Small 3.1 con M1 Pro: ¿Compatible?

24B parámetros · 16GB VRAM (Unified Memory) · Apple

Compatible — la M1 Pro puede ejecutar Mistral Small 3.1

Cuantización Q4 recomendada. 2.8000000000000007GB de margen disponible.

Análisis de VRAM por cuantización

Cuantización VRAM requerida Tu GPU ¿Funciona?
FP16 (máxima calidad) 52.8 GB 16 GB ✗ No
Q8 (alta calidad) 26.4 GB 16 GB ✗ No
Q4 (recomendado) Recomendado 13.2 GB 16 GB ✓ Sí
Q2 (mínimo) 6.6 GB 16 GB ~ Parcial

Instalar con Ollama

Ejecuta este comando en tu terminal para descargar y correr Mistral Small 3.1:

ollama run mistral-small3.1:24b

Requiere Ollama instalado. Descárgalo gratis en ollama.ai

Rendimiento estimado

Velocidad estimada ~15 tok/s (moderada (funcional para uso puntual))
Margen de VRAM en Q4 +2.8000000000000007 GB
Mejor cuantización disponible Q4
Ancho de banda de memoria 200 GB/s

Comprar M1 Pro

La M1 Pro es una opción ajustada para ejecutar Mistral Small 3.1.

Aviso de afiliado: Este enlace es patrocinado. Podemos recibir una comisión sin coste adicional para ti.

Ver M1 Pro en Amazon →