Beim Abspielen lädt der YouTube-Player über youtube-nocookie.com; dabei werden Daten an Google übertragen. Datenschutz
Kimi K2 Q3 Unsloth version
jeffwads · Vorführung · Fortgeschritten
Worum es geht
Kurzes Video zum Lauf von Kimi K2 in Q3-Quantisierung von Unsloth. Es zeigt das sehr große Modell lokal.
Warum es für lokale KI zählt
Es belegt, dass große Open-Weight-Modelle quantisiert auf Workstation-Hardware laufen.
Hardware: Workstation.
Was dazu gesagt wurde
„Fast enough for me.“
Reddit · 2025
Woher die Empfehlung kommt
1 Person hat dieses Video 1× empfohlen, in 1 verschiedenen Monaten, in r/LocalLLaMA.
Modelle & Auswahl Quantisierung & Formate Hardware & Beschaffung