Vai al contenuto principale
Motore locale pronto

RTX 3070 Ti

51 modelli IA entrano in 8 GB di VRAM in Q4 nativo. 17 altri funzionano con offloading CPU. Benchmark reali qui sotto.

51 Modelli compatibili
17 con offloading
8GB GDDR6X
290W TDP
Javier Morales
Javier Morales Specialista hardware IA — 8 anni di esperienza
GitHub: github.com/javier-morales-ia

llama.cpp 0.2.x · CUDA 12 · Ubuntu 22.04 · Prices verified on Amazon · metodologia →

RTX 3070 Ti

Contesto di esecuzione

MARCA NVIDIA
BANDA 608 GB/s
FP16 TFLOPS 21.7
AI SCORE 43 / 140
FASCIA PREZZO Fascia media
MSRP (LAUNCH) $599
AI SCORE (RELATIVE)
43 /140
Ingresso Valore Media Alta Flagship
MSRP at launch: $599 Current street price varies on Amazon

Controlla l'offerta attuale

Link affiliato Amazon per RTX 3070 Ti

Alcuni link sono link di affiliazione Amazon. Potremmo ricevere una commissione senza costi aggiuntivi per te. Il cookie Amazon puo durare fino a 24 ore dopo il clic.

Specifiche complete

NVIDIA · 2021-06

VRAM 8 GB GDDR6X
Banda 608 GB/s
FP16 TFLOPS 21.7
AI Score 43 / 140
CUDA Cores 6,144
Tensor Cores 192
TDP 290 W
PCIe Gen 4
Slots 2.5
Power Connector 2x 8-pin
Fascia di prezzo Fascia media
Rilascio 2021-06

Benchmark IA

Misurazioni reali di inferenza — llama.cpp Q4_K_M

Attivita Risultato
Llama 1B Q4 320 tok/s
Llama 3B Q4 128 tok/s
Llama 7B Q4 42 tok/s
Llama 13B Q4 VRAM N/D
Llama 30B Q4 VRAM N/D
Llama 70B Q4 Offload o multi-GPU
Stable Diffusion 512px 5s / img
Whisper Large RTF 0.6x

RTF < 1.0 = piu veloce del tempo reale. Per Stable Diffusion e Whisper, piu basso e meglio; per tokens/s, piu alto e meglio.

Confronta RTX 3070 Ti con un altra GPU

Vale la pena fare l upgrade? Confronta specifiche e benchmark reali fianco a fianco.

Apri comparatore →

Modelli IA compatibili — RTX 3070 Ti

51 modelli entrano interamente in VRAM · 17 con offloading CPU

Vedi tutti i 51 modelli compatibili →

Funziona anche con offloading CPU (17)

RTX 3070 Ti · Amazon

I prezzi delle GPU cambiano spesso tra i rivenditori. Controlla l offerta attuale prima di acquistare.

Controlla l'offerta attuale

Alcuni link sono link di affiliazione Amazon. Potremmo ricevere una commissione senza costi aggiuntivi per te. Il cookie Amazon puo durare fino a 24 ore dopo il clic.

RTX 3070 Ti per IA locale

RTX 3070 Ti con 8GB di GDDR6X e un'opzione solida per IA locale. Questa GPU copre i modelli piu usati in quantizzazione Q4 e permette carichi piu grandi in base alla VRAM disponibile.

Nei benchmark reali, RTX 3070 Ti raggiunge 42 token/secondo su Llama 7B Q4. Puoi eseguire 51 modelli interamente in VRAM, con altri 17 modelli in offloading CPU.

Per verificare in dettaglio la compatibilita di ogni modello, usa il calcolatore VRAM. Puoi anche consultare le guide introduttive per configurare il tuo ambiente locale.

Pianifica la tua build IA completa

RTX 3070 Ti · 8 GB VRAM — configura PSU, RAM, storage e verifica i modelli compatibili.

Configura la tua build →

Non sai quale modello eseguire sulla tua RTX 3070 Ti?

Il calcolatore VRAM ti dice esattamente quale quantizzazione ti serve.

Apri calcolatore →

Ottieni il miglior prezzo per RTX 3070 Ti

Open Amazon with our affiliate link and check availability, variants, and current deals.

Ottieni il miglior prezzo →