Beim Abspielen lädt der YouTube-Player über youtube-nocookie.com; dabei werden Daten an Google übertragen. Datenschutz
Use Retrieval Augmented Generation (RAG) without a Database with LLMWare
llmware · Vorführung · Fortgeschritten
Kurz gesagt
llmware zeigt, wie sich Retrieval Augmented Generation ohne eigene Datenbank umsetzen lässt. Das Video richtet sich an Entwickler, die Dokumentabfragen mit Sprachmodellen aufbauen wollen. Es stellt dafür die Bibliothek des Kanals vor.
Das lernst du
- RAG ohne Datenbank
- Einsatz der LLMWare-Bibliothek
- Dokumente mit Sprachmodellen abfragen
Warum es für lokale KI zählt
Es zeigt, wie RAG-Workflows mit lokalen Modellen und ohne externe Datenbank privat auf eigener Hardware betrieben werden können.
Hardware: Consumer-GPU, etwa 8 GB VRAM.
Was dazu gesagt wurde
„I haven't tried this yet but watching the demo videos it looks like it could be really nice to use, and it looks like the repo only started 18 days ago?“
Reddit · 2023
Woher die Empfehlung kommt
1 Person hat dieses Video 1× empfohlen, in 1 verschiedenen Monaten, in r/LocalLLaMA.