Skip to main content
Local Engine Ready

RTX 3060

58 AI models fit in 12 GB VRAM at Q4 native. 21 more run with CPU offloading. Real benchmarks below.

58 Compatible Models
21 with offloading
12GB GDDR6
170W TDP
Javier Morales
Javier Morales AI Hardware Specialist — 8 years experience
GitHub: github.com/javier-morales-ia

llama.cpp 0.2.x · CUDA 12 · Ubuntu 22.04 · Prices verified on Amazon · methodology →

RTX 3060

Execution Context

BRAND NVIDIA
BANDWIDTH 360 GB/s
FP16 TFLOPS 12.7
AI SCORE 35 / 140
PRICE BAND Value
AI SCORE (RELATIVE)
35 /140
Entry Value Mid High Flagship

Full Specifications

NVIDIA · 2021-02

VRAM 12 GB GDDR6
Bandwidth 360 GB/s
FP16 TFLOPS 12.7
AI Score 35 / 140
CUDA Cores 3,584
Tensor Cores 112
TDP 170 W
PCIe Gen 4
Slots 2
Power Connector 8-pin
Price Band Value
Released 2021-02

AI Benchmarks

Real inference measurements — llama.cpp Q4_K_M

Task Result
Llama 1B Q4 189 tok/s
Llama 3B Q4 76 tok/s
Llama 7B Q4 30 tok/s
Llama 13B Q4 17 tok/s
Llama 30B Q4 VRAM N/A
Llama 70B Q4 Offload or multi-GPU
Stable Diffusion 512px 7s / img
Whisper Large RTF 0.9x

RTF < 1.0 = faster than real time. For Stable Diffusion and Whisper lower is better; for tokens/s higher is better.

Comparar RTX 3060 con otra GPU

¿Vale la pena el upgrade? Compara specs y benchmarks reales lado a lado.

Abrir comparador →
Comparaciones rápidas: vs RTX 2080 Ti · vs RX 6700 XT

Compatible AI Models — RTX 3060

58 models run fully in VRAM · 21 with CPU offloading

Show all 58 compatible models →

Also runs with CPU offloading (21)

RTX 3060 · Amazon

GPU pricing moves frequently across retailers. Check the current offer before you buy.

Check current offer

Some links are Amazon affiliate links. We may earn a commission at no extra cost to you. Amazon cookies may last up to 24 hours after your click.

RTX 3060 para Inteligencia Artificial Local

La RTX 3060 con 12GB de GDDR6 es perfecta para empezar con IA local. Cubre todos los modelos 7B populares en Q4 (Llama 3.1 8B, Mistral 7B, Qwen2.5 7B, DeepSeek R1 Distill 8B) con velocidades decentes. Para casos de uso ligeros como chat, coding assistance y transcripción de audio, esta GPU tiene todo lo necesario.

En benchmarks reales, la RTX 3060 genera 30 tokens/segundo con Llama 7B Q4 — suficiente para conversación en tiempo real. Whisper para transcripción de voz funciona perfectamente. Para generación de imágenes, Stable Diffusion 3 Medium y SD 3.5 Medium son compatibles.

Si buscas tu primera GPU para IA local con un presupuesto ajustado, la RTX 3060 es un punto de entrada sólido. Consulta nuestra guía para empezar con IA local y usa la calculadora de VRAM para verificar la compatibilidad con tu modelo favorito.

Plan your full AI build

RTX 3060 · 12 GB VRAM — configure PSU, RAM, storage and check compatible models.

Configure your build →

¿No sabes qué modelo correr en tu RTX 3060?

La calculadora de VRAM te dice exactamente qué cuantización necesitas.

Abrir Calculadora →

Consigue el mejor precio para RTX 3060

Abre Amazon con nuestro enlace afiliado y revisa disponibilidad, variantes y ofertas actuales.

Get Best Price →