Skip to main content

Yi 1.5 6B con RTX 3050 8GB: ¿Compatible?

6B parámetros · 8GB VRAM (GDDR6) · NVIDIA

Compatible — la RTX 3050 8GB puede ejecutar Yi 1.5 6B

Alta calidad disponible. 4.3GB de margen sobre Q4.

Análisis de VRAM por cuantización

Cuantización VRAM requerida Tu GPU ¿Funciona?
FP16 (máxima calidad) 12 GB 8 GB ✗ No
Q8 (alta calidad) 6 GB 8 GB ✓ Sí
Q4 (recomendado) Recomendado 3.7 GB 8 GB ✓ Sí
Q2 (mínimo) 2 GB 8 GB ~ Parcial

Instalar con Ollama

Ejecuta este comando en tu terminal para descargar y correr Yi 1.5 6B:

ollama run yi:6b

Requiere Ollama instalado. Descárgalo gratis en ollama.ai

Rendimiento estimado

Velocidad estimada ~59 tok/s (muy rápida (tiempo real))
Margen de VRAM en Q4 +4.3 GB
Mejor cuantización disponible Q8
Ancho de banda de memoria 224 GB/s

Comprar RTX 3050 8GB

La RTX 3050 8GB es una opción sólida para ejecutar Yi 1.5 6B.

Aviso de afiliado: Este enlace es patrocinado. Podemos recibir una comisión sin coste adicional para ti.

Ver RTX 3050 8GB en Amazon →