Skip to main content

Mistral 7B con Arc A750 8GB: ¿Compatible?

7B parámetros · 8GB VRAM (GDDR6) · Intel

Compatible — la Arc A750 8GB puede ejecutar Mistral 7B

Alta calidad disponible. 3.5GB de margen sobre Q4.

Análisis de VRAM por cuantización

Cuantización VRAM requerida Tu GPU ¿Funciona?
FP16 (máxima calidad) 14 GB 8 GB ✗ No
Q8 (alta calidad) 7 GB 8 GB ✓ Sí
Q4 (recomendado) Recomendado 4.5 GB 8 GB ✓ Sí
Q2 (mínimo) 2.5 GB 8 GB ~ Parcial

Instalar con Ollama

Ejecuta este comando en tu terminal para descargar y correr Mistral 7B:

ollama run mistral:7b

Requiere Ollama instalado. Descárgalo gratis en ollama.ai

Rendimiento estimado

Velocidad estimada ~111 tok/s (muy rápida (tiempo real))
Margen de VRAM en Q4 +3.5 GB
Mejor cuantización disponible Q8
Ancho de banda de memoria 512 GB/s

Comprar Arc A750 8GB

La Arc A750 8GB es una opción sólida para ejecutar Mistral 7B.

Aviso de afiliado: Este enlace es patrocinado. Podemos recibir una comisión sin coste adicional para ti.

Ver Arc A750 8GB en Amazon →