Skip to main content

Llama 3.2 11B Vision con RX 6700 XT: ¿Compatible?

11B parámetros · 12GB VRAM (GDDR6) · AMD

Compatible — la RX 6700 XT puede ejecutar Llama 3.2 11B Vision

Cuantización Q4 recomendada. 5.4GB de margen disponible.

Análisis de VRAM por cuantización

Cuantización VRAM requerida Tu GPU ¿Funciona?
FP16 (máxima calidad) 26.4 GB 12 GB ✗ No
Q8 (alta calidad) 13.2 GB 12 GB ✗ No
Q4 (recomendado) Recomendado 6.6 GB 12 GB ✓ Sí
Q2 (mínimo) 3.3 GB 12 GB ~ Parcial

Instalar con Ollama

Ejecuta este comando en tu terminal para descargar y correr Llama 3.2 11B Vision:

ollama run llama3.2-vision:11b

Requiere Ollama instalado. Descárgalo gratis en ollama.ai

Rendimiento estimado

Velocidad estimada ~57 tok/s (muy rápida (tiempo real))
Margen de VRAM en Q4 +5.4 GB
Mejor cuantización disponible Q4
Ancho de banda de memoria 384 GB/s

Comprar RX 6700 XT

La RX 6700 XT es una opción ajustada para ejecutar Llama 3.2 11B Vision.

Aviso de afiliado: Este enlace es patrocinado. Podemos recibir una comisión sin coste adicional para ti.

Ver RX 6700 XT en Amazon →