Skip to main content

Mistral Nemo 12B con RX 7900 XT: ¿Compatible?

12B parámetros · 20GB VRAM (GDDR6) · AMD

Compatible — la RX 7900 XT puede ejecutar Mistral Nemo 12B

Alta calidad disponible. 13GB de margen sobre Q4.

Análisis de VRAM por cuantización

Cuantización VRAM requerida Tu GPU ¿Funciona?
FP16 (máxima calidad) 24 GB 20 GB ✗ No
Q8 (alta calidad) 12 GB 20 GB ✓ Sí
Q4 (recomendado) Recomendado 7 GB 20 GB ✓ Sí
Q2 (mínimo) 3.5 GB 20 GB ~ Parcial

Instalar con Ollama

Ejecuta este comando en tu terminal para descargar y correr Mistral Nemo 12B:

ollama run mistral-nemo:12b

Requiere Ollama instalado. Descárgalo gratis en ollama.ai

Rendimiento estimado

Velocidad estimada ~112 tok/s (muy rápida (tiempo real))
Margen de VRAM en Q4 +13 GB
Mejor cuantización disponible Q8
Ancho de banda de memoria 800 GB/s

Comprar RX 7900 XT

La RX 7900 XT es una opción sólida para ejecutar Mistral Nemo 12B.

Aviso de afiliado: Este enlace es patrocinado. Podemos recibir una comisión sin coste adicional para ti.

Ver RX 7900 XT en Amazon →