Skip to main content
Local Engine Ready

RTX 3080 Ti

58 AI models fit in 12 GB VRAM at Q4 native. 21 more run with CPU offloading. Real benchmarks below.

58 Compatible Models
21 with offloading
12GB GDDR6X
350W TDP
Javier Morales
Javier Morales AI Hardware Specialist — 8 years experience
GitHub: github.com/javier-morales-ia

llama.cpp 0.2.x · CUDA 12 · Ubuntu 22.04 · Prices verified on Amazon · methodology →

RTX 3080 Ti

Execution Context

BRAND NVIDIA
BANDWIDTH 912 GB/s
FP16 TFLOPS 34.1
AI SCORE 62 / 140
PRICE BAND High-end
AI SCORE (RELATIVE)
62 /140
Entry Value Mid High Flagship

Full Specifications

NVIDIA · 2021-06

VRAM 12 GB GDDR6X
Bandwidth 912 GB/s
FP16 TFLOPS 34.1
AI Score 62 / 140
CUDA Cores 10,240
Tensor Cores 320
TDP 350 W
PCIe Gen 4
Slots 3
Power Connector 2x 8-pin
Price Band High-end
Released 2021-06

AI Benchmarks

Real inference measurements — llama.cpp Q4_K_M

Task Result
Llama 1B Q4 400 tok/s
Llama 3B Q4 181 tok/s
Llama 7B Q4 60 tok/s
Llama 13B Q4 33 tok/s
Llama 30B Q4 VRAM N/A
Llama 70B Q4 Offload or multi-GPU
Stable Diffusion 512px 4.2s / img
Whisper Large RTF 0.5x

RTF < 1.0 = faster than real time. For Stable Diffusion and Whisper lower is better; for tokens/s higher is better.

Comparar RTX 3080 Ti con otra GPU

¿Vale la pena el upgrade? Compara specs y benchmarks reales lado a lado.

Abrir comparador →
Comparaciones rápidas: vs RX 7900 XT · vs RTX 4070 Ti Super

Compatible AI Models — RTX 3080 Ti

58 models run fully in VRAM · 21 with CPU offloading

Show all 58 compatible models →

Also runs with CPU offloading (21)

RTX 3080 Ti · Amazon

GPU pricing moves frequently across retailers. Check the current offer before you buy.

Check current offer

Some links are Amazon affiliate links. We may earn a commission at no extra cost to you. Amazon cookies may last up to 24 hours after your click.

RTX 3080 Ti para Inteligencia Artificial Local

La RTX 3080 Ti con 12GB de GDDR6X es perfecta para empezar con IA local. Cubre todos los modelos 7B populares en Q4 (Llama 3.1 8B, Mistral 7B, Qwen2.5 7B, DeepSeek R1 Distill 8B) con velocidades decentes. Para casos de uso ligeros como chat, coding assistance y transcripción de audio, esta GPU tiene todo lo necesario.

En benchmarks reales, la RTX 3080 Ti genera 60 tokens/segundo con Llama 7B Q4 — suficiente para conversación en tiempo real. Whisper para transcripción de voz funciona perfectamente. Para generación de imágenes, Stable Diffusion 3 Medium y SD 3.5 Medium son compatibles.

Si buscas tu primera GPU para IA local con un presupuesto ajustado, la RTX 3080 Ti es un punto de entrada sólido. Consulta nuestra guía para empezar con IA local y usa la calculadora de VRAM para verificar la compatibilidad con tu modelo favorito.

Plan your full AI build

RTX 3080 Ti · 12 GB VRAM — configure PSU, RAM, storage and check compatible models.

Configure your build →

¿No sabes qué modelo correr en tu RTX 3080 Ti?

La calculadora de VRAM te dice exactamente qué cuantización necesitas.

Abrir Calculadora →

Consigue el mejor precio para RTX 3080 Ti

Abre Amazon con nuestro enlace afiliado y revisa disponibilidad, variantes y ofertas actuales.

Get Best Price →