Beim Abspielen lädt der YouTube-Player über youtube-nocookie.com; dabei werden Daten an Google übertragen. Datenschutz
[Outdated] Gemma3:4B Vision Model (first NPU-only VLM)
FastFlowLM · Messung · Fortgeschritten
Kurz gesagt
FastFlowLM zeigt das Vision-Modell Gemma3:4B auf einer NPU und vergleicht dessen Laufzeit mit iGPU und CPU. Der Titel markiert das Video als veraltet. Interessant ist es für alle, die wissen wollen, wie sich eine NPU bei Bildverständnis schlägt.
Das lernst du
- Gemma3:4B mit Bildverarbeitung auf der NPU
- Vergleich mit iGPU und CPU
- Hinweis: Video ist laut Titel überholt
Warum es für lokale KI zählt
Es ist relevant, weil es zeigt, wie ein multimodales 4B-Modell lokal und ohne Cloud auf unterschiedlicher Consumer-Hardware laufen kann.
Hardware: Consumer-GPU, etwa 8 GB VRAM, Modell mit 4 Mrd. Parametern.
Was dazu gesagt wurde
„This shows a performance comparison of running Gemma3:4B (Vision) on iGPU, CPU, and NPU.“
Reddit · 2025
Woher die Empfehlung kommt
1 Person hat dieses Video 2× empfohlen, in 1 verschiedenen Monaten, in r/LocalLLaMA.
Benchmarks & Messungen Hardware & Beschaffung Multimodal lokal