RTX 3090
81 modelli IA entrano in 24 GB di VRAM in Q4 nativo. 7 altri funzionano con offloading CPU. Benchmark reali qui sotto.
llama.cpp 0.2.x · CUDA 12 · Ubuntu 22.04 · Prices verified on Amazon · metodologia →
Contesto di esecuzione
Controlla l'offerta attuale
Link affiliato Amazon per RTX 3090
Alcuni link sono link di affiliazione Amazon. Potremmo ricevere una commissione senza costi aggiuntivi per te. Il cookie Amazon puo durare fino a 24 ore dopo il clic.
Specifiche complete
NVIDIA · 2020-09
| VRAM | 24 GB GDDR6X |
| Banda | 936 GB/s |
| FP16 TFLOPS | 35.6 |
| AI Score | 72 / 140 |
| CUDA Cores | 10,496 |
| Tensor Cores | 328 |
| TDP | 350 W |
| PCIe | Gen 4 |
| Slots | 3 |
| Power Connector | 2x 8-pin |
| Fascia di prezzo | Fascia alta |
| Rilascio | 2020-09 |
Benchmark IA
Misurazioni reali di inferenza — llama.cpp Q4_K_M
| Attivita | Risultato |
|---|---|
| Llama 1B Q4 | 400 tok/s |
| Llama 3B Q4 | 197 tok/s |
| Llama 7B Q4 | 65 tok/s |
| Llama 13B Q4 | 44 tok/s |
| Llama 30B Q4 | 22 tok/s |
| Llama 70B Q4 | Offload o multi-GPU |
| Stable Diffusion 512px | 4s / img |
| Whisper Large RTF | 0.5x |
RTF < 1.0 = piu veloce del tempo reale. Per Stable Diffusion e Whisper, piu basso e meglio; per tokens/s, piu alto e meglio.
Confronta RTX 3090 con un altra GPU
Vale la pena fare l upgrade? Confronta specifiche e benchmark reali fianco a fianco.
Apri comparatore →Modelli IA compatibili — RTX 3090
81 modelli entrano interamente in VRAM · 7 con offloading CPU
Flux.1 Dev
Whisper Large V3
Stable Diffusion 3.5 Large
FLUX.2 Dev
Qwen2.5-Coder 32B
DeepSeek R1 Distill 32B
Qwen2.5 32B
Stable Diffusion 3.5 Medium
Vedi tutti i 81 modelli compatibili →
Funziona anche con offloading CPU (7)
- Llama 3.3 70B 21 GB Q2 Come installare →
- Qwen2.5 72B 21 GB Q2 Come installare →
- Llama 3.1 70B 20 GB Q2 Come installare →
- Qwen3-Coder-Next 80B-A3B 22 GB Q2 Come installare →
- Mixtral 8x7B 14 GB Q2 Come installare →
- Hermes 3 70B 20 GB Q2 Come installare →
- Nous Hermes 2 Mixtral 8x7B 13 GB Q2 Come installare →
RTX 3090 · Amazon
I prezzi delle GPU cambiano spesso tra i rivenditori. Controlla l offerta attuale prima di acquistare.
Controlla l'offerta attualeAlcuni link sono link di affiliazione Amazon. Potremmo ricevere una commissione senza costi aggiuntivi per te. Il cookie Amazon puo durare fino a 24 ore dopo il clic.
RTX 3090 per IA locale
RTX 3090 con 24GB di GDDR6X e un'opzione solida per IA locale. Questa GPU copre i modelli piu usati in quantizzazione Q4 e permette carichi piu grandi in base alla VRAM disponibile.
Nei benchmark reali, RTX 3090 raggiunge 65 token/secondo su Llama 7B Q4. Puoi eseguire 81 modelli interamente in VRAM, con altri 7 modelli in offloading CPU.
Per verificare in dettaglio la compatibilita di ogni modello, usa il calcolatore VRAM. Puoi anche consultare le guide introduttive per configurare il tuo ambiente locale.
Pianifica la tua build IA completa
RTX 3090 · 24 GB VRAM — configura PSU, RAM, storage e verifica i modelli compatibili.
Articoli correlati
Non sai quale modello eseguire sulla tua RTX 3090?
Il calcolatore VRAM ti dice esattamente quale quantizzazione ti serve.
Ottieni il miglior prezzo per RTX 3090
Open Amazon with our affiliate link and check availability, variants, and current deals.