Skip to main content

Qwen2.5 Coder 14B con RTX 3090: ¿Compatible?

14B parámetros · 24GB VRAM (GDDR6X) · NVIDIA

Compatible — la RTX 3090 puede ejecutar Qwen2.5 Coder 14B

Alta calidad disponible. 16GB de margen sobre Q4.

Análisis de VRAM por cuantización

Cuantización VRAM requerida Tu GPU ¿Funciona?
FP16 (máxima calidad) 28 GB 24 GB ✗ No
Q8 (alta calidad) 14 GB 24 GB ✓ Sí
Q4 (recomendado) Recomendado 8 GB 24 GB ✓ Sí
Q2 (mínimo) 4 GB 24 GB ~ Parcial

Instalar con Ollama

Ejecuta este comando en tu terminal para descargar y correr Qwen2.5 Coder 14B:

ollama run qwen2.5-coder:14b

Requiere Ollama instalado. Descárgalo gratis en ollama.ai

Rendimiento estimado

Velocidad estimada ~114 tok/s (muy rápida (tiempo real))
Margen de VRAM en Q4 +16 GB
Mejor cuantización disponible Q8
Ancho de banda de memoria 936 GB/s

Comprar RTX 3090

La RTX 3090 es una opción sólida para ejecutar Qwen2.5 Coder 14B.

Aviso de afiliado: Este enlace es patrocinado. Podemos recibir una comisión sin coste adicional para ti.

Ver RTX 3090 en Amazon →