Saltar al contenido principal
Motor local listo

Yi 1.5 34B

10 GPUs de consumo pueden ejecutar Yi 1.5 34B en Q4 de forma nativa. Umbrales de VRAM y benchmarks precisos abajo.

10 GPUs compatibles
19 con offloading
34B parámetros
4K contexto
Mejor opción
RTX 5090 · 32 GB VRAM Q4 nativo

Precios y disponibilidad pueden cambiar · enlace de afiliado

Javier Morales
Javier Morales Especialista en hardware IA — 8 años de experiencia
GitHub: github.com/javier-morales-ia

llama.cpp 0.2.x · CUDA 12 · ROCm 6 · actualizado mensualmente · metodología →

Contexto de ejecución

ARQUITECTURA TRANSFORMER
CONTEXTO 4K TOKENS
CUANTIZACIÓN 4-BIT GGUF
PROVEEDOR 01.AI
LICENCIA Apache-2.0
REQUISITO VRAM
20 GB
4GB 8GB 12GB 16GB 24GB+
Decisión de hardware

Este modelo requiere unaGPU de gama alta (24 GB VRAM)

Mínimo

RX 7900 XT

Funciona en Q4 — usable, con algo de espera

20 GB VRAM
Ver configuración compatible
Equilibrado

M4 Max 48GB

Mejor relación valor/rendimiento diario

48 GB VRAM
Ver configuración compatible
Óptimo

RTX 5090

Máxima calidad, inferencia más rápida

32 GB VRAM
Ver configuración compatible

GPUs compatibles para Yi 1.5 34B

Mejores opciones por compatibilidad, margen de VRAM y valor — precios y disponibilidad pueden cambiar.

RTX 5090
32 GB VRAM · Q4 nativo Amazon

RTX 5090

4.4 (234 reseñas)

Ventajas

  • Ejecuta Yi 1.5 34B Q4 nativo
  • 32 GB VRAM — margen suficiente
RTX 4090
24 GB VRAM · Q4 nativo Amazon

RTX 4090

4.4 (617 reseñas)

Ventajas

  • Ejecuta Yi 1.5 34B Q4 nativo
  • 24 GB VRAM — margen suficiente
M4 Ultra
128 GB VRAM · Q4 nativo Amazon

M4 Ultra

0.0 (0 reseñas)

Ventajas

  • Ejecuta Yi 1.5 34B Q4 nativo
  • 128 GB VRAM — margen suficiente

Algunos enlaces son enlaces de afiliado de Amazon. Podemos ganar una comisión sin coste adicional para ti. La cookie de Amazon puede durar hasta 24 horas tras tu clic.

*Los precios y la disponibilidad pueden cambiar. Algunos enlaces son de afiliado.

Requisitos del sistema

VRAM GPU 20 GB GPU gama alta
RAM del sistema 30 GB 32 GB recomendado
Almacenamiento 20 GB Q4 · SSD recomendado
CPU Cualquier CPU moderna GPU requerida

VRAM por cuantización

Cuantización VRAM necesaria Espacio en disco Calidad
FP16 (calidad máxima) 68 GB 68 GB Máxima
Q8 (alta calidad) 34 GB 34 GB Casi sin pérdida
Q4 (recomendado) Mejor equilibrio 20 GB 20 GB Recomendada
Q2 (mínimo) 10 GB 10 GB Pérdida de calidad

Detalles del modelo

Desarrollador 01.AI
Parámetros 34B
Ventana de contexto 4,096 tokens
Licencia Apache-2.0
Casos de uso chat, coding, reasoning, analysis
Lanzamiento 2024-05

Instalar con Ollama

ollama run yi:34b

Hugging Face

01-ai/Yi-1.5-34B-Chat
Ver en HF →
Requisitos técnicos

¿Tu GPU puede ejecutar Yi 1.5 34B?

Yi 1.5 34B requiere <strong class="text-primary-container">20 GB de VRAM</strong> en Q4. 10 GPUs de consumo cumplen este umbral. Por debajo de 8 GB o 18 GB verás una latencia de offload notable.

10GB Mínimo crítico
20GB Óptimo Q4
34GB Alta calidad Q8
68GB Máximo FP16

Matriz de rendimiento de hardware

10 Q4 nativo · 19 offload

GPU VRAM Compatibilidad Velocidad est. Acción
RTX 5090 32GB Óptimo Calcular →
RTX 4090 24GB Óptimo Calcular →
M4 Ultra 128GB Óptimo 27 tok/s Calcular →
M3 Ultra 192GB Óptimo 21 tok/s Calcular →
RTX 3090 24GB Óptimo Calcular →
M4 Max 48GB 48GB Óptimo 14 tok/s Calcular →
RX 7900 XTX 24GB Óptimo Calcular →
M4 Max 36GB 36GB Óptimo Calcular →
RX 7900 XT 20GB Óptimo Calcular →
M4 Pro 24GB Óptimo Calcular →
RTX 5080 16GB Offload Calcular →
RTX 4080 Super 16GB Offload Calcular →
RTX 5070 Ti 16GB Offload Calcular →
RTX 4070 Ti Super 16GB Offload Calcular →
RTX 3080 Ti 12GB Offload Calcular →
RTX 5070 12GB Offload Calcular →
RTX 3080 10GB Offload Calcular →
RX 7800 XT 16GB Offload Calcular →
RX 6800 XT 16GB Offload Calcular →
RTX 4070 12GB Offload Calcular →
RTX 4060 Ti 16GB 16GB Offload Calcular →
RX 7700 XT 12GB Offload Calcular →
RX 6700 XT 12GB Offload Calcular →
M3 Pro 18GB Offload Calcular →
RTX 2080 Ti 11GB Offload Calcular →
RTX 3060 12GB Offload Calcular →
M2 Pro 16GB Offload Calcular →
Arc A770 16GB 16GB Offload Calcular →
M1 Pro 16GB Offload Calcular →

GPUs recomendadas para Yi 1.5 34B

Benchmarks Reales
Sin Reviews Pagadas
Selección Editorial
Basado en Datos

Mejores opciones por compatibilidad, margen de VRAM y valor; precios y disponibilidad pueden cambiar.

Algunos enlaces son enlaces de afiliado de Amazon. Podemos ganar una comisión sin coste adicional para ti. La cookie de Amazon puede durar hasta 24 horas tras tu clic.

Yi 1.5 34B — Guía de compatibilidad

Yi 1.5 34B requiere una GPU de gama alta como RTX 4090 o un Mac con M2 Ultra o superior. La versión Q4 necesita 20 GB de VRAM. Consulta la calculadora de VRAM para ver tus opciones.

Compara GPUs para Yi 1.5 34B

¿Qué GPU merece la pena? Especificaciones y benchmarks reales lado a lado.

Hardware compatible

GPUs que ejecutan Yi 1.5 34B en Q4, ordenadas por rendimiento en IA.

Benchmarks Reales
Sin Reviews Pagadas
Basado en Datos
RTX 5090
RTX 5090

NVIDIA · 32 GB VRAM

Q4 OK
> $1000
RTX 4090
RTX 4090

NVIDIA · 24 GB VRAM

Q4 OK
> $1000
M4 Ultra

Apple · 128 GB VRAM

Q4 OK
27 tok/s > $1000
M3 Ultra

Apple · 192 GB VRAM

Q4 OK
21 tok/s > $1000
RTX 3090
RTX 3090

NVIDIA · 24 GB VRAM

Q4 OK
$600–1000
M4 Max 48GB

Apple · 48 GB VRAM

Q4 OK
14 tok/s > $1000

Algunos enlaces son enlaces de afiliado de Amazon. Podemos ganar una comisión sin coste adicional para ti. La cookie de Amazon puede durar hasta 24 horas tras tu clic.

Alternativas más prácticas

Modelos similares en la categoría chat con requisitos de VRAM comparables.

¿No sabes qué GPU necesitas para Yi 1.5 34B?

La calculadora de VRAM te dice exactamente qué cuantización soporta tu hardware.

RTX 5090

Ver disponibilidad

Los precios cambian a diario