Beim Abspielen lädt der YouTube-Player über youtube-nocookie.com; dabei werden Daten an Google übertragen. Datenschutz
[Outdated] GPT-OSS-20B (OpenAI) — 100% Powered by AMD Ryzen™ AI NPU (First MoE model on NPUs)
FastFlowLM · Vorführung · Fortgeschritten
Kurz gesagt
Das Video führt das Modell GPT-OSS-20B vor, das vollständig auf der Ryzen-AI-NPU von AMD läuft, und gilt laut Titel als veraltet. Laut Kommentar lässt sich FastFlowLM per Kommandozeile oder im Servermodus nutzen, etwa mit Open WebUI. Gedacht für Besitzer von Ryzen-AI-Rechnern, die NPU-basierte lokale KI testen wollen.
Das lernst du
- Ein MoE-Modell läuft ausschließlich auf der NPU
- FastFlowLM per Kommandozeile oder Servermodus
- Hinweis: Video ist laut Titel überholt
Warum es für lokale KI zählt
Es ist relevant für lokale KI, weil es zeigt, dass größere MoE-Modelle ohne dedizierte GPU direkt auf Consumer-Hardware mit NPU laufen können.
Hardware: Consumer-GPU, etwa 16 GB VRAM, Modell mit 20 Mrd. Parametern.
Was dazu gesagt wurde
„Yes! you absolutely can do it!“
Reddit · 2025
Woher die Empfehlung kommt
1 Person hat dieses Video 1× empfohlen, in 1 verschiedenen Monaten, in r/LocalLLaMA.
Hardware & Beschaffung Runtimes & Backends Modelle & Auswahl