Que necesito para correr IA sin internet
Correr IA sin internet es posible con cualquier GPU de 8 GB de VRAM. Una vez descargado el modelo con Ollama, todo funciona offline: sin API keys, sin coste por token, sin latencia de red.
Aviso de afiliado: algunos enlaces son de Amazon Associates.
Por que correr IA sin internet
Privacidad total
Tus conversaciones, documentos y codigo nunca salen de tu maquina. Sin logs en servidores externos.
Cero coste por uso
Sin API keys ni facturas por tokens. Solo el coste de electricidad (~0.01€/hora de inferencia).
Sin latencia de red
Las respuestas empiezan en milisegundos. Sin colas de API ni problemas de conectividad.
Setup 1: Sin GPU — Solo CPU
Con 16 GB de RAM y un CPU moderno puedes correr modelos 3B-7B offline. phi-3-mini a 12-14 tok/s en un i7. No necesitas GPU ni tarjeta de red para modelos pequenos.
Requisitos minimos: 16 GB RAM, CPU moderno (i5/i7 o Ryzen 5/7), 20 GB de espacio en disco para el modelo.
Modelos recomendados: phi-3-mini (2.3 GB), Llama 3.1 8B Q4 (5 GB con CPU-only a 4 tok/s)
Setup 2: Con GPU — RTX 3060 12GB
El mejor setup para IA sin internet con presupuesto ajustado. 30 tok/s con Llama 8B Q4, funciona completamente offline.
Setup 3: Apple Silicon Mac — La mejor opcion portatil
Los Macs con Apple Silicon son perfectos para IA offline portatil. Memoria unificada de hasta 48 GB, bateria de 15-20 horas, y Ollama disponible para macOS. Sin GPU externa necesaria.