Skip to main content
Local Engine Ready

RTX 5090

80 AI models fit in 32 GB VRAM at Q4 native. 7 more run with CPU offloading. Real benchmarks below.

80 Compatible Models
7 with offloading
32GB GDDR7
575W TDP
Javier Morales
Javier Morales AI Hardware Specialist — 8 years experience
GitHub: github.com/javier-morales-ia

llama.cpp 0.2.x · CUDA 12 · Ubuntu 22.04 · Prices verified on Amazon · methodology →

RTX 5090

Execution Context

BRAND NVIDIA
BANDWIDTH 1792 GB/s
FP16 TFLOPS 105
AI SCORE 140 / 140
PRICE BAND Flagship
AI SCORE (RELATIVE)
140 /140
Entry Value Mid High Flagship

Full Specifications

NVIDIA · 2025-01

VRAM 32 GB GDDR7
Bandwidth 1792 GB/s
FP16 TFLOPS 105
AI Score 140 / 140
CUDA Cores 21,760
Tensor Cores 680
TDP 575 W
PCIe Gen 5
Slots 3
Power Connector 16-pin
Price Band Flagship
Released 2025-01

AI Benchmarks

Real inference measurements — llama.cpp Q4_K_M

Task Result
Llama 1B Q4 400 tok/s
Llama 3B Q4 200 tok/s
Llama 7B Q4 155 tok/s
Llama 13B Q4 84 tok/s
Llama 30B Q4 42 tok/s
Llama 70B Q4 Offload or multi-GPU
Stable Diffusion 512px 1.2s / img
Whisper Large RTF 0.2x

RTF < 1.0 = faster than real time. For Stable Diffusion and Whisper lower is better; for tokens/s higher is better.

Comparar RTX 5090 con otra GPU

¿Vale la pena el upgrade? Compara specs y benchmarks reales lado a lado.

Abrir comparador →
Comparaciones rápidas: vs RTX 4090 · vs M4 Ultra

Compatible AI Models — RTX 5090

80 models run fully in VRAM · 7 with CPU offloading

Show all 80 compatible models →

Also runs with CPU offloading (7)

RTX 5090 · Amazon

GPU pricing moves frequently across retailers. Check the current offer before you buy.

Check current offer

Some links are Amazon affiliate links. We may earn a commission at no extra cost to you. Amazon cookies may last up to 24 hours after your click.

RTX 5090 para Inteligencia Artificial Local

La RTX 5090 con 32GB de GDDR7 es una GPU de alto rendimiento para IA local. Puede ejecutar modelos de 7B, 13B y hasta 70B parámetros en cuantización Q2, cubriendo la mayoría de los casos de uso prácticos: asistentes de chat, generación de código, análisis de texto y generación de imágenes con Stable Diffusion.

En benchmarks reales, la RTX 5090 alcanza 155 tokens/segundo en Llama 7B Q4 — velocidad suficiente para conversación fluida en tiempo real. Los modelos de 13B como Phi-4 o Qwen2.5 14B corren cómodamente en Q4, y modelos 70B son accesibles via Q2 con 7 opciones.

La relación rendimiento-precio de la RTX 5090 la hace una de las mejores opciones para usuarios técnicos que quieren IA local seria. Usa la calculadora de VRAM para ver exactamente qué cuantización necesita cada modelo, o consulta nuestra guía para elegir GPU.

Plan your full AI build

RTX 5090 · 32 GB VRAM — configure PSU, RAM, storage and check compatible models.

Configure your build →

¿No sabes qué modelo correr en tu RTX 5090?

La calculadora de VRAM te dice exactamente qué cuantización necesitas.

Abrir Calculadora →

Consigue el mejor precio para RTX 5090

Abre Amazon con nuestro enlace afiliado y revisa disponibilidad, variantes y ofertas actuales.

Get Best Price →