Beim Abspielen lädt der YouTube-Player über youtube-nocookie.com; dabei werden Daten an Google übertragen. Datenschutz
Whisper-large-v3-turbo (OpenAI) — 100% Powered by AMD Ryzen™ AI NPU (Server Mode with OWUI)
FastFlowLM · Vorführung · Fortgeschritten
Kurz gesagt
Das Video zeigt Whisper-large-v3-turbo zur Spracherkennung auf der AMD Ryzen AI NPU im Servermodus, angebunden an Open WebUI (OWUI). Laut Kommentar kam bei FastFlowLM zuerst Textgenerierung, dann Bildverständnis und zuletzt Spracherkennung hinzu. Interessant für Nutzer, die Transkription lokal auf der NPU betreiben wollen.
Das lernst du
- Spracherkennung mit Whisper auf der NPU
- Anbindung über den Servermodus an Open WebUI
- FastFlowLM erweitert sich um Audio zusätzlich zu Text
Warum es für lokale KI zählt
Es ist relevant, weil es zeigt, dass lokale KI auf Consumer-Hardware nicht nur LLMs, sondern auch ASR-Modelle ohne Cloud über eine OpenAI-kompatible Schnittstelle ausführen kann.
Hardware: Consumer-GPU, etwa 2 GB VRAM, Modell mit 0.8 Mrd. Parametern.
Was dazu gesagt wurde
„We started FLM with **text-generation LLMs**, then added **VLMs**, and most recently **ASR (whisper-large-v3-turbo)**.“
Reddit · 2025
Woher die Empfehlung kommt
1 Person hat dieses Video 1× empfohlen, in 1 verschiedenen Monaten, in r/LocalLLaMA.
Hardware & Beschaffung Runtimes & Backends Modelle & Auswahl