Kein Raten. Reale Benchmarks auf 40 GPUs und direkte Antworten fuer dein lokales System.
Jede GPU enthaelt Tokens/s auf Llama 7B Q4, verfuegbaren VRAM und Modellkompatibilitaet. Die Werte stammen von echter Hardware.
— RunAIatHome Labor — monatlich aktualisiertMit 12 GB GDDR6-VRAM laeuft die RTX 3060 7B-Modelle in Q4 ohne RAM-Offload. Ein ausgewogener Einstieg in lokale KI.
— RunAIatHome Benchmark — RTX 3060 12GB, Ollama 0.5.x, Ubuntu 24.04Pruefe deine GPU gegen jedes KI-Modell
VRAM-Rechner — kostenlos und sofort
Absichtsbasierte Navigation:Szenariobasierte Routen verbinden deine Absicht mit Mindest-VRAM und direkter Kompatibilitaetspruefung, bevor du den gesamten GPU-Katalog durchsuchst.
Forscher, ML-Studierende und fortgeschrittene Nutzer
Entwickler, die private KI-Autovervollstaendigung brauchen
Creator und Digital-Kuenstler
128GB Unified Memory · 110 tok/s 7B Q4