Beim Abspielen lädt der YouTube-Player über youtube-nocookie.com; dabei werden Daten an Google übertragen. Datenschutz
Qwen Coder 480B A35B 4bit Unsloth version.
jeffwads · Vorführung · Fortgeschritten
Worum es geht
Ein kurzer Lauf von Qwen Coder 480B A35B in 4-Bit-Quantisierung von Unsloth. Das Video zeigt das Modell lokal in Aktion.
Warum es für lokale KI zählt
Es demonstriert, dass sich ein sehr großes Coding-Modell quantisiert lokal betreiben lässt.
Hardware: Workstation, Modell mit 480 Mrd. Parametern.
Was dazu gesagt wurde
„Works great!“
Reddit · 2025
Woher die Empfehlung kommt
1 Person hat dieses Video 1× empfohlen, in 1 verschiedenen Monaten, in r/LocalLLaMA.
Modelle & Auswahl Quantisierung & Formate Hardware & Beschaffung