Saltar al contenido principal
Modelo listo para CPU

Gemma 4 12B

39 GPUs de consumo pueden ejecutar Gemma 4 12B en Q4 de forma nativa. Umbrales de VRAM y benchmarks precisos abajo.

39 GPUs compatibles
1 con offloading
12B parámetros
256K contexto
Mejor opción
RTX 5090 · 32 GB VRAM Q4 nativo

Precios y disponibilidad pueden cambiar · enlace de afiliado

Javier Morales
Javier Morales Especialista en hardware IA — 8 años de experiencia
GitHub: github.com/javier-morales-ia

llama.cpp 0.2.x · CUDA 12 · ROCm 6 · actualizado mensualmente · metodología →

Contexto de ejecución

ARQUITECTURA TRANSFORMER
CONTEXTO 256K TOKENS
CUANTIZACIÓN 4-BIT GGUF
PROVEEDOR Google
LICENCIA Apache 2.0
Decisión de hardware

Este modelo requiere unaGPU de entrada (8 GB VRAM)

Mínimo

RTX 4060 Ti

Funciona en Q4 — usable, con algo de espera

8 GB VRAM
Ver configuración compatible
Equilibrado

RTX 4070

Mejor relación valor/rendimiento diario

12 GB VRAM
Ver configuración compatible
Óptimo

RTX 5090

Máxima calidad, inferencia más rápida

32 GB VRAM
Ver configuración compatible

GPUs compatibles para Gemma 4 12B

Mejores opciones por compatibilidad, margen de VRAM y valor — precios y disponibilidad pueden cambiar.

RTX 5090
32 GB VRAM · Q4 nativo Amazon

RTX 5090

4.4 (234 reseñas)

Ventajas

  • Ejecuta Gemma 4 12B Q4 nativo
  • 32 GB VRAM — margen suficiente
RTX 4090
24 GB VRAM · Q4 nativo Amazon

RTX 4090

4.4 (617 reseñas)

Ventajas

  • Ejecuta Gemma 4 12B Q4 nativo
  • 24 GB VRAM — margen suficiente
M4 Ultra
128 GB VRAM · Q4 nativo Amazon

M4 Ultra

0.0 (0 reseñas)

Ventajas

  • Ejecuta Gemma 4 12B Q4 nativo
  • 128 GB VRAM — margen suficiente

Algunos enlaces son enlaces de afiliado de Amazon. Podemos ganar una comisión sin coste adicional para ti. La cookie de Amazon puede durar hasta 24 horas tras tu clic.

*Los precios y la disponibilidad pueden cambiar. Algunos enlaces son de afiliado.

Requisitos del sistema

VRAM GPU 6.6 GB GPU de entrada
RAM del sistema 16 GB DDR4/DDR5
Almacenamiento 6 GB Q4 · SSD recomendado
CPU i7 → 8 tok/s Funciona sin GPU

VRAM por cuantización

Cuantización VRAM necesaria Espacio en disco Calidad
FP16 (calidad máxima) 26.4 GB 24 GB Máxima
Q8 (alta calidad) 13.2 GB 12 GB Casi sin pérdida
Q4 (recomendado) Mejor equilibrio 6.6 GB 6 GB Recomendada
Q2 (mínimo) 3.3 GB 3 GB Pérdida de calidad

Detalles del modelo

Desarrollador Google
Parámetros 12B
Ventana de contexto 256,000 tokens
Licencia Apache 2.0
Casos de uso chat, reasoning, vision, analysis
Lanzamiento 2026-04

Instalar con Ollama

ollama run gemma4:12b

Hugging Face

google/gemma-4-12b-it
Ver en HF →
Requisitos técnicos

¿Tu GPU puede ejecutar Gemma 4 12B?

Gemma 4 12B requiere <strong class="text-primary-container">6.6 GB de VRAM</strong> en Q4. 39 GPUs de consumo cumplen este umbral. Por debajo de 8 GB o 4.6 GB verás una latencia de offload notable.

3.3GB Mínimo crítico
6.6GB Óptimo Q4
13.2GB Alta calidad Q8
26.4GB Máximo FP16

Matriz de rendimiento de hardware

39 Q4 nativo · 1 offload

GPU VRAM Compatibilidad Velocidad est. Acción
RTX 5090 32GB Óptimo 84 tok/s Calcular →
RTX 4090 24GB Óptimo 47 tok/s Calcular →
M4 Ultra 128GB Óptimo 51 tok/s Calcular →
RTX 5080 16GB Óptimo 45 tok/s Calcular →
M3 Ultra 192GB Óptimo 37 tok/s Calcular →
RTX 4080 Super 16GB Óptimo 34 tok/s Calcular →
RTX 5070 Ti 16GB Óptimo 42 tok/s Calcular →
RTX 3090 24GB Óptimo 44 tok/s Calcular →
M4 Max 48GB 48GB Óptimo 25 tok/s Calcular →
RX 7900 XTX 24GB Óptimo 45 tok/s Calcular →
M4 Max 36GB 36GB Óptimo 25 tok/s Calcular →
RTX 4070 Ti Super 16GB Óptimo 31 tok/s Calcular →
RTX 3080 Ti 12GB Óptimo 33 tok/s Calcular →
RX 7900 XT 20GB Óptimo 37 tok/s Calcular →
RTX 5070 12GB Óptimo 31 tok/s Calcular →
RTX 3080 10GB Óptimo 35 tok/s Calcular →
M4 Pro 24GB Óptimo 13 tok/s Calcular →
RX 7800 XT 16GB Óptimo 29 tok/s Calcular →
RX 6800 XT 16GB Óptimo 20 tok/s Calcular →
RTX 4070 12GB Óptimo 20 tok/s Calcular →
RTX 4060 Ti 16GB 16GB Óptimo 13 tok/s Calcular →
RX 7700 XT 12GB Óptimo 18 tok/s Calcular →
RTX 3070 Ti 8GB Óptimo 23 tok/s Calcular →
RTX 4060 Ti 8GB Óptimo 19 tok/s Calcular →
RTX 3070 8GB Óptimo 19 tok/s Calcular →
RX 6700 XT 12GB Óptimo 13 tok/s Calcular →
M3 Pro 18GB Óptimo 7 tok/s Calcular →
RTX 3060 Ti 8GB Óptimo 18 tok/s Calcular →
RTX 2080 Ti 11GB Óptimo 16 tok/s Calcular →
RTX 3060 12GB Óptimo 17 tok/s Calcular →
M2 Pro 16GB Óptimo 9 tok/s Calcular →
RTX 4060 8GB Óptimo 14 tok/s Calcular →
Arc A770 16GB 16GB Óptimo 8 tok/s Calcular →
M1 Pro 16GB Óptimo 9 tok/s Calcular →
RX 7600 8GB Óptimo 12 tok/s Calcular →
RX 6600 XT 8GB Óptimo 12 tok/s Calcular →
Arc A750 8GB 8GB Óptimo 9 tok/s Calcular →
RX 6600 8GB Óptimo 10 tok/s Calcular →
RTX 3050 8GB 8GB Óptimo 9 tok/s Calcular →
GTX 1660 Super 6GB Offload 11 tok/s Calcular →

GPUs recomendadas para Gemma 4 12B

Benchmarks Reales
Sin Reviews Pagadas
Selección Editorial
Basado en Datos

Mejores opciones por compatibilidad, margen de VRAM y valor; precios y disponibilidad pueden cambiar.

Algunos enlaces son enlaces de afiliado de Amazon. Podemos ganar una comisión sin coste adicional para ti. La cookie de Amazon puede durar hasta 24 horas tras tu clic.

Gemma 4 12B — Guía de compatibilidad

Gemma 4 12B puede ejecutarse en CPU sin GPU dedicada, algo poco habitual para un modelo de 12B. En un i7-13700K con llama.cpp Q4 alcanza 8 tok/s (funcional para uso ocasional). Con GPU obtienes entre 4 y 6 veces más velocidad; revisa la calculadora de VRAM para ver los detalles.

Compara GPUs para Gemma 4 12B

¿Qué GPU merece la pena? Especificaciones y benchmarks reales lado a lado.

Hardware compatible

GPUs que ejecutan Gemma 4 12B en Q4, ordenadas por rendimiento en IA.

Benchmarks Reales
Sin Reviews Pagadas
Basado en Datos
RTX 5090
RTX 5090

NVIDIA · 32 GB VRAM

Q4 OK
84 tok/s > $1000
RTX 4090
RTX 4090

NVIDIA · 24 GB VRAM

Q4 OK
47 tok/s > $1000
M4 Ultra

Apple · 128 GB VRAM

Q4 OK
51 tok/s > $1000
RTX 5080
RTX 5080

NVIDIA · 16 GB VRAM

Q4 OK
45 tok/s $600–1000
M3 Ultra

Apple · 192 GB VRAM

Q4 OK
37 tok/s > $1000
RTX 4080 Super
RTX 4080 Super

NVIDIA · 16 GB VRAM

Q4 OK
34 tok/s $600–1000

Algunos enlaces son enlaces de afiliado de Amazon. Podemos ganar una comisión sin coste adicional para ti. La cookie de Amazon puede durar hasta 24 horas tras tu clic.

Alternativas más prácticas

Modelos similares en la categoría vision con requisitos de VRAM comparables.

¿No sabes qué GPU necesitas para Gemma 4 12B?

La calculadora de VRAM te dice exactamente qué cuantización soporta tu hardware.

RTX 5090

Ver disponibilidad

Los precios cambian a diario