Skip to main content
Local Engine Ready

RTX 4080 Super

66 AI models fit in 16 GB VRAM at Q4 native. 14 more run with CPU offloading. Real benchmarks below.

66 Compatible Models
14 with offloading
16GB GDDR6X
320W TDP
Javier Morales
Javier Morales AI Hardware Specialist — 8 years experience
GitHub: github.com/javier-morales-ia

llama.cpp 0.2.x · CUDA 12 · Ubuntu 22.04 · Prices verified on Amazon · methodology →

RTX 4080 Super

Execution Context

BRAND NVIDIA
BANDWIDTH 736 GB/s
FP16 TFLOPS 52.2
AI SCORE 78 / 140
PRICE BAND High-end
AI SCORE (RELATIVE)
78 /140
Entry Value Mid High Flagship

Full Specifications

NVIDIA · 2024-01

VRAM 16 GB GDDR6X
Bandwidth 736 GB/s
FP16 TFLOPS 52.2
AI Score 78 / 140
CUDA Cores 10,240
Tensor Cores 320
TDP 320 W
PCIe Gen 4
Slots 3
Power Connector 16-pin
Price Band High-end
Released 2024-01

AI Benchmarks

Real inference measurements — llama.cpp Q4_K_M

Task Result
Llama 1B Q4 386 tok/s
Llama 3B Q4 155 tok/s
Llama 7B Q4 72 tok/s
Llama 13B Q4 34 tok/s
Llama 30B Q4 VRAM N/A
Llama 70B Q4 Offload or multi-GPU
Stable Diffusion 512px 3s / img
Whisper Large RTF 0.4x

RTF < 1.0 = faster than real time. For Stable Diffusion and Whisper lower is better; for tokens/s higher is better.

Comparar RTX 4080 Super con otra GPU

¿Vale la pena el upgrade? Compara specs y benchmarks reales lado a lado.

Abrir comparador →
Comparaciones rápidas: vs M3 Ultra · vs RTX 5070 Ti

Compatible AI Models — RTX 4080 Super

66 models run fully in VRAM · 14 with CPU offloading

Show all 66 compatible models →

Also runs with CPU offloading (14)

RTX 4080 Super · Amazon

GPU pricing moves frequently across retailers. Check the current offer before you buy.

Check current offer

Some links are Amazon affiliate links. We may earn a commission at no extra cost to you. Amazon cookies may last up to 24 hours after your click.

RTX 4080 Super para Inteligencia Artificial Local

La RTX 4080 Super con 16GB de GDDR6X es una opción equilibrada para IA local. Puede correr modelos 7B y 13B en Q4 sin problemas, y modelos 7B en FP16. Es ideal para usuarios que quieren una experiencia fluida con los modelos más populares como Llama 3.1 8B, Mistral 7B, Phi-4 o Qwen2.5 14B.

Los benchmarks reales muestran 72 tokens/segundo en Llama 7B Q4. Para generación de imágenes, Stable Diffusion XL y SD 3.5 Medium caben perfectamente. Whisper Large V3 para transcripción de audio también es compatible.

Con 16GB de VRAM tienes acceso a 66 modelos completos y 14 adicionales con offloading parcial. Usa la calculadora de VRAM para ver las opciones de cuantización disponibles para cada modelo.

Plan your full AI build

RTX 4080 Super · 16 GB VRAM — configure PSU, RAM, storage and check compatible models.

Configure your build →

¿No sabes qué modelo correr en tu RTX 4080 Super?

La calculadora de VRAM te dice exactamente qué cuantización necesitas.

Abrir Calculadora →

Consigue el mejor precio para RTX 4080 Super

Abre Amazon con nuestro enlace afiliado y revisa disponibilidad, variantes y ofertas actuales.

Get Best Price →