Beim Abspielen lädt der YouTube-Player über youtube-nocookie.com; dabei werden Daten an Google übertragen. Datenschutz
LLM Farm vs. Private LLM: The Context Length Test
Private LLM · Messung · Fortgeschritten
Kurz gesagt
Das Video vergleicht die iOS-Apps LLM Farm und Private LLM anhand der Kontextlänge, also wie viel Text sie auf einmal verarbeiten. Es stammt vom Kanal Private LLM, ist also die Sicht des Anbieters einer der beiden Apps. Für Nutzer, die Sprachmodelle direkt auf dem iPhone betreiben möchten.
Das lernst du
- Vergleich zweier Apps für lokale Modelle
- Fokus auf die Kontextlänge
- Herkunft vom Anbieter einer der Apps beachten
Warum es für lokale KI zählt
Zeigt, wie gut Apps Modelle auf Apple-Geräten mit langem Kontext betreiben.
Hardware: Apple Silicon.
Was dazu gesagt wurde
„Try give anything more than 2K tokens to LLM farm and try doing the same on Private LLM“
Reddit · 2024
Woher die Empfehlung kommt
1 Person hat dieses Video 1× empfohlen, in 1 verschiedenen Monaten, in r/LocalLLaMA.