Aller au contenu principal
Moteur local prêt

Phi-3 Medium

39 GPUs grand public peuvent exécuter Phi-3 Medium en Q4 nativement. Seuils VRAM précis et benchmarks ci-dessous.

39 GPUs compatibles
1 avec offloading
14B paramètres
128K contexte
Meilleur choix
RTX 5090 · 32 GB VRAM Q4 natif

Prix et disponibilité peuvent changer · lien affilié

Javier Morales
Javier Morales Spécialiste matériel IA — 8 ans d’expérience
GitHub: github.com/javier-morales-ia

llama.cpp 0.2.x · CUDA 12 · ROCm 6 · mis à jour mensuellement · méthodologie →

Contexte d’exécution

ARCHITECTURE TRANSFORMER
CONTEXTE 128K TOKENS
QUANTIFICATION 4-BIT GGUF
FOURNISSEUR Microsoft
LICENCE MIT
BESOIN VRAM
8 GB
4GB 8GB 12GB 16GB 24GB+
Décision matérielle

Ce modèle nécessite unGPU d’entrée (8 GB VRAM)

Minimum

RTX 4060 Ti

Fonctionne en Q4 — utilisable avec un peu d’attente

8 GB VRAM
Voir config compatible
Équilibré

RTX 4070

Meilleur équilibre valeur/performance au quotidien

12 GB VRAM
Voir config compatible
Optimal

RTX 5090

Qualité maximale, inférence la plus rapide

32 GB VRAM
Voir config compatible

GPUs compatibles pour Phi-3 Medium

Meilleures options par compatibilité, marge VRAM et valeur — prix et disponibilité peuvent varier.

RTX 5090
32 GB VRAM · Q4 natif Amazon

RTX 5090

0.0 (0 avis)

Points forts

  • Exécute Phi-3 Medium en Q4 natif
  • 32 GB VRAM — marge suffisante
RTX 4090
24 GB VRAM · Q4 natif Amazon

RTX 4090

4.8 (2,100 avis)

Points forts

  • Exécute Phi-3 Medium en Q4 natif
  • 24 GB VRAM — marge suffisante
M4 Ultra
128 GB VRAM · Q4 natif Amazon

M4 Ultra

0.0 (0 avis)

Points forts

  • Exécute Phi-3 Medium en Q4 natif
  • 128 GB VRAM — marge suffisante

Certains liens sont des liens d'affiliation Amazon. Nous pouvons toucher une commission sans coût supplémentaire pour vous. Le cookie Amazon peut durer jusqu'à 24 heures après votre clic.

*Les prix et la disponibilité peuvent changer. Certains liens sont affiliés.

Configuration requise

VRAM GPU 8 GB GPU d’entrée
RAM système 16 GB DDR4/DDR5
Stockage 8 GB Q4 · SSD recommandé
CPU Tout CPU moderne GPU requis

VRAM par quantification

Quantification VRAM nécessaire Espace disque Qualité
FP16 (qualité maximale) 28 GB 28 GB Maximum
Q8 (haute qualité) 14 GB 14 GB Quasi sans perte
Q4 (recommandé) Meilleur équilibre 8 GB 8 GB Recommandée
Q2 (minimum) 4.5 GB 4.3 GB Perte de qualité

Détails du modèle

Développeur Microsoft
Paramètres 14B
Fenêtre de contexte 128,000 tokens
Licence MIT
Cas d’usage chat, coding, reasoning, analysis
Sortie 2024-04

Installer avec Ollama

ollama run phi3:medium

Hugging Face

microsoft/Phi-3-medium-128k-instruct
Voir sur HF →
Exigences techniques

Votre GPU peut-il exécuter Phi-3 Medium ?

Phi-3 Medium nécessite <strong class="text-primary-container">8 GB de VRAM</strong> en Q4. 39 GPUs grand public atteignent ce seuil. En dessous de 8 GB ou 6 GB, la latence d’offload augmente fortement.

4.5GB Minimum critique
8GB Optimal Q4
14GB Haute qualité Q8
28GB Max FP16

Matrice de performance matérielle

39 Q4 natif · 1 offload

GPU VRAM Compatibilité Vitesse estimée Action
RTX 5090 32GB Optimal 42 tok/s Calculer →
RTX 4090 24GB Optimal 24 tok/s Calculer →
M4 Ultra 128GB Optimal 25 tok/s Calculer →
RTX 5080 16GB Optimal Calculer →
M3 Ultra 192GB Optimal 19 tok/s Calculer →
RTX 4080 Super 16GB Optimal Calculer →
RTX 5070 Ti 16GB Optimal Calculer →
RTX 3090 24GB Optimal 22 tok/s Calculer →
M4 Max 48GB 48GB Optimal 13 tok/s Calculer →
RX 7900 XTX 24GB Optimal 22 tok/s Calculer →
M4 Max 36GB 36GB Optimal 13 tok/s Calculer →
RTX 4070 Ti Super 16GB Optimal Calculer →
RTX 3080 Ti 12GB Optimal Calculer →
RX 7900 XT 20GB Optimal 19 tok/s Calculer →
RTX 5070 12GB Optimal Calculer →
RTX 3080 10GB Optimal Calculer →
M4 Pro 24GB Optimal 6 tok/s Calculer →
RX 7800 XT 16GB Optimal Calculer →
RX 6800 XT 16GB Optimal Calculer →
RTX 4070 12GB Optimal Calculer →
RTX 4060 Ti 16GB 16GB Optimal Calculer →
RX 7700 XT 12GB Optimal Calculer →
RTX 3070 Ti 8GB Optimal Calculer →
RTX 4060 Ti 8GB Optimal Calculer →
RTX 3070 8GB Optimal Calculer →
RX 6700 XT 12GB Optimal Calculer →
M3 Pro 18GB Optimal Calculer →
RTX 3060 Ti 8GB Optimal Calculer →
RTX 2080 Ti 11GB Optimal Calculer →
RTX 3060 12GB Optimal Calculer →
M2 Pro 16GB Optimal Calculer →
RTX 4060 8GB Optimal Calculer →
Arc A770 16GB 16GB Optimal Calculer →
M1 Pro 16GB Optimal Calculer →
RX 7600 8GB Optimal Calculer →
RX 6600 XT 8GB Optimal Calculer →
Arc A750 8GB 8GB Optimal Calculer →
RX 6600 8GB Optimal Calculer →
RTX 3050 8GB 8GB Optimal Calculer →
GTX 1660 Super 6GB Offload Calculer →

GPUs recommandés pour Phi-3 Medium

Benchmarks réels
Sans avis sponsorisés
Sélection éditoriale
Basé sur les données

Meilleurs choix selon compatibilité, marge VRAM et valeur; prix et disponibilité peuvent varier.

Certains liens sont des liens d'affiliation Amazon. Nous pouvons toucher une commission sans coût supplémentaire pour vous. Le cookie Amazon peut durer jusqu'à 24 heures après votre clic.

Phi-3 Medium — Guide de compatibilité

Phi-3 Medium nécessite un matériel intermédiaire ou une quantification Q4 pour tourner sur des GPUs grand public. Avec 8 GB de VRAM, vous obtenez la meilleure qualité. Utilisez le calculateur VRAM pour voir quelle quantification votre GPU supporte.

Comparez les GPUs pour Phi-3 Medium

Quel GPU vaut le coup ? Spécifications et benchmarks réels côte à côte.

Matériel compatible

GPUs qui exécutent Phi-3 Medium en Q4, triés par score de performance IA.

Benchmarks réels
Sans avis sponsorisés
Basé sur les données
RTX 5090

NVIDIA · 32 GB VRAM

Q4 OK
42 tok/s > $1000
RTX 4090

NVIDIA · 24 GB VRAM

Q4 OK
24 tok/s > $1000
M4 Ultra

Apple · 128 GB VRAM

Q4 OK
25 tok/s > $1000
RTX 5080

NVIDIA · 16 GB VRAM

Q4 OK
$600–1000
M3 Ultra

Apple · 192 GB VRAM

Q4 OK
19 tok/s > $1000
RTX 4080 Super

NVIDIA · 16 GB VRAM

Q4 OK
$600–1000

Certains liens sont des liens d'affiliation Amazon. Nous pouvons toucher une commission sans coût supplémentaire pour vous. Le cookie Amazon peut durer jusqu'à 24 heures après votre clic.

Alternatives plus pratiques

Modèles similaires dans la catégorie chat avec des besoins VRAM comparables.

Vous ne savez pas quel GPU il vous faut pour Phi-3 Medium ?

Le calculateur VRAM vous indique exactement quelle quantification votre matériel peut supporter.

RTX 5090

Voir disponibilité

Prix mis à jour quotidiennement