Beim Abspielen lädt der YouTube-Player über youtube-nocookie.com; dabei werden Daten an Google übertragen. Datenschutz
PEFT LoRA Finetuning With Oobabooga! How To Configure Other Models Than Alpaca/LLaMA Step-By-Step.
AemonAlgiz · Anleitung · Fortgeschritten
Kurz gesagt
AemonAlgiz zeigt Schritt für Schritt, wie sich Modelle jenseits von Alpaca und LLaMA mit PEFT und LoRA in Oobabooga feinabstimmen lassen. Für Fortgeschrittene, die eigene Modelle trainieren wollen.
Das lernst du
- LoRA-Feinabstimmung mit PEFT in Oobabooga
- Konfiguration für weitere Modelle
- Schritt-für-Schritt-Anleitung
Warum es für lokale KI zählt
Es ist für lokale KI relevant, weil es zeigt, wie man eigene Modelle auf lokaler Hardware per LoRA effizient finetuned.
Hardware: Consumer-GPU, etwa 8 GB VRAM.
Was dazu gesagt wurde
„I got the ideas and was able to figure out what was going on, fight through the inevitable errors and got something to work!“
Reddit · 2023
Woher die Empfehlung kommt
1 Person hat dieses Video 2× empfohlen, in 1 verschiedenen Monaten, in r/LocalLLaMA.