Beim Abspielen lädt der YouTube-Player über youtube-nocookie.com; dabei werden Daten an Google übertragen. Datenschutz
NVIDIA didn't want me to do this
Alex Ziskind · Messung · Profi
Kurz gesagt
Alex Ziskind probiert ein ungewöhnliches Setup mit NVIDIA-DGX-Systemen für große Sprachmodelle aus. Ein Kommentar vergleicht das mit früheren Versuchen mit mehreren DGX-Geräten und diskutiert, was an Tempo für Alltag und Programmieren reicht. Passend für Leser, die Cluster-Hardware für lokale LLMs einschätzen wollen.
Das lernst du
- Mehrere DGX-Systeme für große Modelle
- Diskussion der Geschwindigkeit im Alltag
- Einordnung gegenüber anderer Hardware
Warum es für lokale KI zählt
Zeigt, was Cluster aus Heimrechnern mit großen Modellen leisten.
Hardware: Multi-GPU, Modell mit 397 Mrd. Parametern.
Was dazu gesagt wurde
„VLLM probably have improved in the pass two months so number should be a little higher now.“
Reddit · 2026
Woher die Empfehlung kommt
1 Person hat dieses Video 1× empfohlen, in 1 verschiedenen Monaten, in r/LocalLLaMA.