Beim Abspielen lädt der YouTube-Player über youtube-nocookie.com; dabei werden Daten an Google übertragen. Datenschutz
Nvidia, You’re Late. World’s First 128GB LLM Mini Is Here!
Alex Ziskind · Messung · Fortgeschritten
Kurz gesagt
Im Video geht es um einen kompakten Rechner mit 128 GB Speicher für lokale LLMs. Alex Ziskind ordnet das Gerät im Vergleich zu anderen Lösungen wie AMD Strix Halo, Apple-Systemen und Nvidia ein. Wer lokale Modelle auf kleiner Hardware ausprobieren oder vergleichen möchte, findet hier eine Einordnung.
Das lernst du
- Kompakte 128-GB-Systeme für lokale LLMs werden vorgestellt.
- Vergleiche mit AMD Strix Halo, Apple und Nvidia werden angesprochen.
- Auch der Stromverbrauch spielt in den Vergleichen eine Rolle.
Warum es für lokale KI zählt
Das Video zeigt, wie ein kompakter AMD-Mini-PC mit 128 GB Unified Memory große lokale LLMs ohne dedizierte Nvidia-GPU ausführen kann.
Hardware: Workstation, etwa 128 GB VRAM.
Was dazu gesagt wurde
„I am also very interested in AMD's Strix Halo for running LLMs locally.“
Reddit · 2025
Woher die Empfehlung kommt
3 Personen haben dieses Video 4× empfohlen, in 1 verschiedenen Monaten, in r/LocalLLaMA und 1× auf Hacker News.
Hardware & Beschaffung Benchmarks & Messungen Kosten & Wirtschaftlichkeit