Beim Abspielen lädt der YouTube-Player über youtube-nocookie.com; dabei werden Daten an Google übertragen. Datenschutz
Building an AI Homelab with 2X NVIDIA 3090 GPUs | Pro Performance on Consumer Grade Hardware
Mukul Tripathi · Anleitung · Fortgeschritten
Kurz gesagt
Mukul Tripathi stellt ein KI-Homelab mit zwei NVIDIA-3090-Grafikkarten vor. Der Titel betont, dass dafür Hardware für Endkunden genügt. Das Video passt zu Zuschauern mit begrenztem Budget, die zu Hause lokale Modelle betreiben möchten.
Das lernst du
- Homelab mit zwei RTX 3090
- Verbraucher-Hardware statt Serverteile
- Leistung für lokale KI zu Hause
Warum es für lokale KI zählt
Es zeigt, wie man mit zwei Consumer-GPUs und 48 GB VRAM größere lokale LLMs wie 70B-Modelle quantisiert betreiben kann.
Hardware: Multi-GPU, etwa 48 GB VRAM, Modell mit 70 Mrd. Parametern.
Was dazu gesagt wurde
„Yes of course! You can add as many cards! Here is how to do that.“
Reddit · 2025
Woher die Empfehlung kommt
1 Person hat dieses Video 2× empfohlen, in 1 verschiedenen Monaten, in r/LocalLLaMA.
Hardware & Beschaffung Betrieb & Deployment Kosten & Wirtschaftlichkeit