Beim Abspielen lädt der YouTube-Player über youtube-nocookie.com; dabei werden Daten an Google übertragen. Datenschutz
Testing low-latency LLM-as-a-pilot with GPT-OSS-20b
Dbl Spc · Messung · Fortgeschritten
Kurz gesagt
Das Video testet, ob GPT-OSS-20b mit geringer Verzögerung als Pilot dienen kann. Es spricht Zuschauer an, die Reaktionszeit und Einsatzmöglichkeiten lokaler Sprachmodelle in Echtzeitaufgaben interessieren.
Das lernst du
- GPT-OSS-20b als Pilot mit geringer Latenz
- Echtzeittest für ein lokales Sprachmodell
- Für Bastler mit Interesse an schnellen Reaktionen
Warum es für lokale KI zählt
Es demonstriert, dass ein 20B-Modell mit Consumer-GPU und vLLM lokal niedrige Latenz für agentische Steuerungsaufgaben erreichen kann.
Hardware: Consumer-GPU, etwa 24 GB VRAM, Modell mit 20 Mrd. Parametern.
Was dazu gesagt wurde
„Yeah, lots of us messed with this, like... here was 11 months ago when I was basically doing 'jev' with gpt-oss-20b and forcing it to fly asteroids“
Reddit · 2026
Woher die Empfehlung kommt
1 Person hat dieses Video 1× empfohlen, in 1 verschiedenen Monaten, in r/LocalLLaMA.
Benchmarks & Messungen Runtimes & Backends Hardware & Beschaffung