Skip to main content

Qwen2.5 3B con RTX 3060 Ti: ¿Compatible?

3B parámetros · 8GB VRAM (GDDR6) · NVIDIA

Compatible — la RTX 3060 Ti puede ejecutar Qwen2.5 3B

Calidad máxima disponible. La RTX 3060 Ti tiene suficiente VRAM para FP16 completo.

Análisis de VRAM por cuantización

Cuantización VRAM requerida Tu GPU ¿Funciona?
FP16 (máxima calidad) 6 GB 8 GB ✓ Sí
Q8 (alta calidad) 3 GB 8 GB ✓ Sí
Q4 (recomendado) Recomendado 1.9 GB 8 GB ✓ Sí
Q2 (mínimo) 1 GB 8 GB ~ Parcial

Instalar con Ollama

Ejecuta este comando en tu terminal para descargar y correr Qwen2.5 3B:

ollama run qwen2.5:3b

Requiere Ollama instalado. Descárgalo gratis en ollama.ai

Rendimiento estimado

Velocidad estimada ~230 tok/s (muy rápida (tiempo real))
Margen de VRAM en Q4 +6.1 GB
Mejor cuantización disponible FP16
Ancho de banda de memoria 448 GB/s

Comprar RTX 3060 Ti

La RTX 3060 Ti es una opción premium para ejecutar Qwen2.5 3B.

Aviso de afiliado: Este enlace es patrocinado. Podemos recibir una comisión sin coste adicional para ti.

Ver RTX 3060 Ti en Amazon →