Cómo correr Qwen3 32B en local con Ollama
Correr Qwen3 32B en local es más sencillo de lo que parece. Con Ollama puedes tener este modelo de 32B parámetros funcionando en tu PC en menos de 5 minutos. Solo necesitas 17.6 GB de VRAM para la versión Q4 y conexión a internet para la descarga inicial.
En esta guía cubrimos los requisitos exactos de hardware, el proceso de instalación paso a paso, los comandos necesarios y ejemplos de uso para sacarle el máximo partido a Qwen3 32B desde tu propio hardware.
Requisitos de hardware para Qwen3 32B
| Cuantización | VRAM necesaria | Notas |
|---|---|---|
| FP16 (máxima calidad) | 70.4 GB | Calidad de referencia. Solo GPUs con mucha VRAM. |
| Q8 (alta calidad) | 35.2 GB | Recomendado si tienes suficiente VRAM. |
| Q4 (equilibrado) | 17.6 GB (recomendado) | El mejor equilibrio calidad/VRAM. Recomendado. |
| Q2 (mínimo) | 8.8 GB | Solo si tu VRAM es muy limitada. Pérdida notable. |
Sin GPU (solo CPU): Qwen3 32B puede correr en CPU con velocidad de aproximadamente 2 tokens/segundo en un Intel Core i7. Funcional pero lento para uso intensivo.
Especificaciones de Qwen3 32B
Paso 1: Instalar Ollama
Ollama es la forma más sencilla de correr Qwen3 32B en local. Disponible para Windows, macOS y Linux.
- 1 Descarga Ollama desde ollama.com (Windows, macOS o Linux)
- 2 Ejecuta el instalador y sigue las instrucciones (tarda menos de 1 minuto)
- 3 Verifica la instalación abriendo una terminal y ejecutando:
ollama --version
Paso 2: Ejecutar Qwen3 32B
Una vez instalado Ollama, abre una terminal y ejecuta el siguiente comando. Ollama descargará el modelo automáticamente la primera vez:
ollama run qwen3:32b La primera ejecución descargará el modelo (~17.6 GB en Q4). Las ejecuciones posteriores son instantáneas. Una vez descargado, puedes chatear directamente en la terminal o usar la API local.
Paso 3: Ejemplos de uso de Qwen3 32B
Uso con la API REST local
Ollama expone una API en http://localhost:11434 compatible con OpenAI:
curl http://localhost:11434/api/generate -d '{
"model": "qwen3:32b",
"prompt": "Explica qué es la IA local en 2 párrafos",
"stream": false
}' Integración con Python (API OpenAI)
Si tienes instalado el cliente OpenAI de Python:
from openai import OpenAI
client = OpenAI(
base_url="http://localhost:11434/v1",
api_key="ollama",
)
response = client.chat.completions.create(
model="qwen3:32b",
messages=[{"role": "user", "content": "Hola, ¿cómo puedes ayudarme?"}]
)
print(response.choices[0].message.content) GPUs compatibles con Qwen3 32B
Estas GPUs tienen suficiente VRAM para correr Qwen3 32B en cuantización Q4 (17.6 GB):
RTX 5090
RTX 4090
M4 Ultra
M3 Ultra
RTX 3090
M4 Max 48GB
¿No ves tu GPU? Consulta todas las páginas de compatibilidad en la página del modelo Qwen3 32B.
¿No sabes si tu GPU puede correr Qwen3 32B?
Usa nuestra calculadora de VRAM para comprobarlo al instante y ver las opciones de cuantización disponibles.
Comprobar compatibilidad