Skip to main content

CodeGemma 7B con RTX 3080 Ti: ¿Compatible?

7B parámetros · 12GB VRAM (GDDR6X) · NVIDIA

Compatible — la RTX 3080 Ti puede ejecutar CodeGemma 7B

Alta calidad disponible. 7.5GB de margen sobre Q4.

Análisis de VRAM por cuantización

Cuantización VRAM requerida Tu GPU ¿Funciona?
FP16 (máxima calidad) 14 GB 12 GB ✗ No
Q8 (alta calidad) 7 GB 12 GB ✓ Sí
Q4 (recomendado) Recomendado 4.5 GB 12 GB ✓ Sí
Q2 (mínimo) 2.5 GB 12 GB ~ Parcial

Instalar con Ollama

Ejecuta este comando en tu terminal para descargar y correr CodeGemma 7B:

ollama run codegemma:7b

Requiere Ollama instalado. Descárgalo gratis en ollama.ai

Rendimiento estimado

Velocidad estimada ~198 tok/s (muy rápida (tiempo real))
Margen de VRAM en Q4 +7.5 GB
Mejor cuantización disponible Q8
Ancho de banda de memoria 912 GB/s

Comprar RTX 3080 Ti

La RTX 3080 Ti es una opción sólida para ejecutar CodeGemma 7B.

Aviso de afiliado: Este enlace es patrocinado. Podemos recibir una comisión sin coste adicional para ti.

Ver RTX 3080 Ti en Amazon →