RTX 3090
81 modèles IA tiennent dans 24 GB de VRAM en Q4 natif. 7 autres fonctionnent avec offloading CPU. Benchmarks réels ci-dessous.
llama.cpp 0.2.x · CUDA 12 · Ubuntu 22.04 · Prices verified on Amazon · méthodologie →
Contexte d’exécution
Vérifier l'offre actuelle
Lien affilié Amazon pour RTX 3090
Certains liens sont des liens d'affiliation Amazon. Nous pouvons toucher une commission sans coût supplémentaire pour vous. Le cookie Amazon peut durer jusqu'à 24 heures après votre clic.
Spécifications complètes
NVIDIA · 2020-09
| VRAM | 24 GB GDDR6X |
| Bande passante | 936 GB/s |
| FP16 TFLOPS | 35.6 |
| AI Score | 72 / 140 |
| CUDA Cores | 10,496 |
| Tensor Cores | 328 |
| TDP | 350 W |
| PCIe | Gen 4 |
| Slots | 3 |
| Power Connector | 2x 8-pin |
| Fourchette de prix | Haut de gamme |
| Sortie | 2020-09 |
Benchmarks IA
Mesures réelles d’inférence — llama.cpp Q4_K_M
| Tâche | Résultat |
|---|---|
| Llama 1B Q4 | 400 tok/s |
| Llama 3B Q4 | 197 tok/s |
| Llama 7B Q4 | 65 tok/s |
| Llama 13B Q4 | 44 tok/s |
| Llama 30B Q4 | 22 tok/s |
| Llama 70B Q4 | Offloading ou multi-GPU |
| Stable Diffusion 512px | 4s / img |
| Whisper Large RTF | 0.5x |
RTF < 1.0 = plus rapide que le temps réel. Pour Stable Diffusion et Whisper, plus bas est meilleur ; pour les tokens/s, plus haut est meilleur.
Comparer RTX 3090 avec un autre GPU
Mise à niveau utile ? Comparez les specs et benchmarks réels côte à côte.
Ouvrir le comparateur →Modèles IA compatibles — RTX 3090
81 modèles fonctionne entièrement en VRAM · 7 avec offloading CPU
Flux.1 Dev
Whisper Large V3
Stable Diffusion 3.5 Large
FLUX.2 Dev
Qwen2.5-Coder 32B
DeepSeek R1 Distill 32B
Qwen2.5 32B
Stable Diffusion 3.5 Medium
Voir les 81 modèles compatibles →
Fonctionne aussi avec offloading CPU (7)
- Llama 3.3 70B 21 GB Q2 Comment installer →
- Qwen2.5 72B 21 GB Q2 Comment installer →
- Llama 3.1 70B 20 GB Q2 Comment installer →
- Qwen3-Coder-Next 80B-A3B 22 GB Q2 Comment installer →
- Mixtral 8x7B 14 GB Q2 Comment installer →
- Hermes 3 70B 20 GB Q2 Comment installer →
- Nous Hermes 2 Mixtral 8x7B 13 GB Q2 Comment installer →
RTX 3090 · Amazon
Les prix des GPU changent souvent selon les vendeurs. Verifiez l offre actuelle avant achat.
Vérifier l'offre actuelleCertains liens sont des liens d'affiliation Amazon. Nous pouvons toucher une commission sans coût supplémentaire pour vous. Le cookie Amazon peut durer jusqu'à 24 heures après votre clic.
RTX 3090 pour l’intelligence artificielle locale
RTX 3090 avec 24GB de GDDR6X est une option solide pour l'IA locale. Cette carte couvre les modèles populaires en quantification Q4 et permet d'aller plus loin selon la VRAM disponible.
En benchmarks réels, RTX 3090 atteint 65 tokens/seconde sur Llama 7B Q4. Vous pouvez aussi exécuter 81 modèles entièrement en VRAM, avec 7 modèles supplémentaires en offloading CPU.
Pour vérifier précisément la compatibilité de chaque modèle, utilisez le calculateur VRAM. Vous pouvez également consulter les guides de démarrage pour configurer votre environnement local.
Planifiez votre build IA complet
RTX 3090 · 24 GB VRAM — configurez PSU, RAM, stockage et vérifiez les modèles compatibles.
Articles liés
Vous ne savez pas quel modèle exécuter sur votre RTX 3090 ?
Le calculateur VRAM vous indique exactement quelle quantification utiliser.
Obtenez le meilleur prix pour RTX 3090
Ouvrez Amazon via notre lien affilié et vérifiez la disponibilité, les variantes et les offres actuelles.