# LokalTube

> Videos zur lokalen KI. Die Videos, die die lokale-KI-Community teilt, mit Einordnung und Hardware-Bedarf.

Betreiber: Ranaro GmbH (Impressum: https://versurft.de/lokale-ki/impressum). Sprache: Deutsch. 362 Videos, Stand 2026-11-07.
Jedes Video ist eingeordnet (Zusammenfassung, Kategorie, Herkunft der Empfehlung). Community-Empfehlungen stammen aus öffentlichen Reddit-Kommentaren; „Redaktionsauswahl“ bezeichnet Videos ausgewählter deutschsprachiger Kanäle.

## Kategorien

- [Hardware & Beschaffung](https://versurft.de/lokale-ki/kategorie/hardware/): 182 Videos
- [Runtimes & Backends](https://versurft.de/lokale-ki/kategorie/runtimes/): 130 Videos
- [Modelle & Auswahl](https://versurft.de/lokale-ki/kategorie/models/): 120 Videos
- [Einstieg & Setup](https://versurft.de/lokale-ki/kategorie/getting-started/): 114 Videos
- [Betrieb & Deployment](https://versurft.de/lokale-ki/kategorie/deployment/): 99 Videos
- [Benchmarks & Messungen](https://versurft.de/lokale-ki/kategorie/benchmarks/): 91 Videos
- [Lokale Agenten & Tooling](https://versurft.de/lokale-ki/kategorie/agents/): 48 Videos
- [Datenschutz & Compliance](https://versurft.de/lokale-ki/kategorie/privacy/): 38 Videos
- [Kosten & Wirtschaftlichkeit](https://versurft.de/lokale-ki/kategorie/cost/): 35 Videos
- [Quantisierung & Formate](https://versurft.de/lokale-ki/kategorie/quantization/): 32 Videos
- [Multimodal lokal](https://versurft.de/lokale-ki/kategorie/multimodal/): 22 Videos
- [Fine-Tuning & LoRA lokal](https://versurft.de/lokale-ki/kategorie/finetuning/): 19 Videos

## Meistempfohlene Videos

- [Running a 35B AI Model on 6GB VRAM, FAST (llama.cpp Guide)](https://versurft.de/lokale-ki/video/running-a-35b-ai-model-on-6gb-vram-fast-llama-cpp-guide-8F_5pdcD3HY/): Das Video zeigt, wie man mit llama.cpp ein 35B-Modell auf einer GPU mit nur 6 GB VRAM lauffähig bekommt. Im Mittelpunkt stehen MoE-Offloadin
- [Reverse-engineering GGUF | Post-Training Quantization](https://versurft.de/lokale-ki/video/reverse-engineering-gguf-post-training-quantization-vW30o4U9BFE/): Das Video erklärt, wie das GGUF-Format aufgebaut ist und wie Post-Training-Quantisierung für lokale Modelle funktioniert. Julia Turc reverse
- [Running vLLM on Strix Halo (AMD Ryzen AI MAX) + ROCm Performance Updates](https://versurft.de/lokale-ki/video/running-vllm-on-strix-halo-amd-ryzen-ai-max-rocm-performance-updates-wAIzlGwEAO0/): Das Video zeigt, wie vLLM auf einem Strix-Halo-System von AMD mit ROCm betrieben wird und welche Performance-Verbesserungen aktuelle ROCm-Up
- [AMD Ryzen AI™ Max+ 395 Google Gemma 3 27b Demo](https://versurft.de/lokale-ki/video/amd-ryzen-aitm-max-395-google-gemma-3-27b-demo-mAl3qTLsNcw/): Das Video demonstriert die AMD Ryzen AI Max+ 395 APU mit LM Studio, wie Gemma 3 27B inklusive Vision auf einem 55-W-Asus-Z13-Tablet läuft. Z
- [Minisforum MS S1 Max AI Review, Benchmarks, and Comfy UI Setup Guide](https://versurft.de/lokale-ki/video/minisforum-ms-s1-max-ai-review-benchmarks-and-comfy-ui-setup-guide-TvNYpyA1ZGk/): Level1Techs reviews the Minisforum MS-S1 Max AI mini-workstation, covering its hardware, AI benchmarks, and a ComfyUI setup guide. The video
- [Is Frontier Class Local AI Finally Practical?](https://versurft.de/lokale-ki/video/is-frontier-class-local-ai-finally-practical-IH8XmxiwliQ/): Codacus testet, ob frontier-nahe lokale KI-Modelle mit begrenzter Consumer-Hardware praktisch nutzbar sind, indem MoE-Experten ausgelagert u
- [ktransformers: DeepSeek_V3_0324:671b-Q4_K_M - 14 tok/s - Open Hands AI   4K](https://versurft.de/lokale-ki/video/ktransformers-deepseek-v3-0324-671b-q4-k-m-14-tok-s-open-hands-ai-4k-fI6uGPcxDbM/): Das Video zeigt eine lokale Demo von Open Hands AI mit DeepSeek-V3-0324 (671B, Q4_K_M) über ktransformers bei etwa 14 tok/s. Es dient als pr
- [I Thought DGX Spark Was Slower… Until I Changed ONE Thing](https://versurft.de/lokale-ki/video/i-thought-dgx-spark-was-slower-until-i-changed-one-thing-Ze5XLooTt6g/): Das Video untersucht, warum der DGX Spark in Alex Ziskinds Tests zunächst langsamer wirkt und wie eine einzelne Änderung die Leistung deutli
- [Understanding LM Studio](https://versurft.de/lokale-ki/video/understanding-lm-studio-GmpT3lJes6Q/): Das Video erklärt LM Studio, eine Desktop-Anwendung zum lokalen Ausführen von Sprachmodellen. Es zeigt vermutlich, wie man Modelle herunterl
- [I built a private AI mini-cluster with Framework Desktop](https://versurft.de/lokale-ki/video/i-built-a-private-ai-mini-cluster-with-framework-desktop-N5xhOqlvRh4/): Jeff Geerling baut aus mehreren Framework-Desktop-Rechnern einen privaten KI-Mini-Cluster und testet, wie sich lokale Modelle darauf betreib
- [NVIDIA DGX Spark – A Non-Sponsored Review (Strix Halo Comparison, Pros & Cons)](https://versurft.de/lokale-ki/video/nvidia-dgx-spark-a-non-sponsored-review-strix-halo-comparison-pros-con-Pww8rIzr1pg/): Das Video ist ein ungesponserter Review des NVIDIA DGX Spark, in dem Bijan Bowen Leistung, Vor- und Nachteile sowie einen Vergleich mit eine
- [GLM 4.5-Air-106B and Qwen3-235B on AMD "Strix Halo" AI Ryzen MAX+ 395  (HP Z2 G1a Mini Workstation)](https://versurft.de/lokale-ki/video/glm-4-5-air-106b-and-qwen3-235b-on-amd-strix-halo-ai-ryzen-max-395-hp-wCBLMXgk3No/): Das Video testet die beiden großen Sprachmodelle GLM 4.5-Air-106B und Qwen3-235B auf einem AMD Strix Halo System, konkret einer HP Z2 G1a Mi
- [llama.cpp - DeepSeek-R1-0528 - 20 tok/s - blackwell 6000 pro - 4K](https://versurft.de/lokale-ki/video/llama-cpp-deepseek-r1-0528-20-tok-s-blackwell-6000-pro-4k-vfi9LRJxgHs/): Das Video zeigt llama.cpp mit DeepSeek-R1-0528 auf einer Blackwell 6000 Pro und dokumentiert rund 20 tok/s in 4K. Es ist Teil einer Build- u
- [PC Build: Run Deepseek-V3-0324:671b-Q8 Locally 6-8 tok/s](https://versurft.de/lokale-ki/video/pc-build-run-deepseek-v3-0324-671b-q8-locally-6-8-tok-s-v4810MVGhog/): Das Video dokumentiert einen PC-Build mit dualen EPYC-CPUs und viel RAM, um DeepSeek-V3-0324 mit 671B Parametern in Q8 lokal laufen zu lasse
- [Google says multi-token prediction makes Gemma 4 up to 1.8x faster. I ran it 144 times to find out.](https://versurft.de/lokale-ki/video/google-says-multi-token-prediction-makes-gemma-4-up-to-1-8x-faster-i-r-psrvQ45Aqx8/): Das Video prüft Googles Behauptung, dass Multi-Token-Prediction Gemma 4 bis zu 1,8x schneller macht, mit einem eigenen A/B-Benchmark. Der Au
- [Nvidia, You’re Late. World’s First 128GB LLM Mini Is Here!](https://versurft.de/lokale-ki/video/nvidia-youre-late-worlds-first-128gb-llm-mini-is-here-B7GDr-VFuEo/): Alex Ziskind stellt einen Mini-PC mit AMD Strix Halo und 128 GB Unified Memory vor, der als erster 128-GB-LLM-Mini beworben wird. Er verglei
- [GPT for Word. Empower Your Team: Deploy Local LLMs in Microsoft Word on Your Intranet (100% Private)](https://versurft.de/lokale-ki/video/gpt-for-word-empower-your-team-deploy-local-llms-in-microsoft-word-on-3aqF67D9Feo/): Das Video zeigt, wie man lokale LLMs in Microsoft Word im Intranet eines Teams bereitstellt, sodass GPT-Funktionen direkt in Word verfügbar 
- [GPT-OSS-20b Missile Defense at 10k t/s](https://versurft.de/lokale-ki/video/gpt-oss-20b-missile-defense-at-10k-t-s-8T8drT0rwCk/): Das Video zeigt einen Test, bei dem GPT-OSS-20b lokal auf einer RTX 4090 mit vLLM betrieben wird, um hohen Durchsatz und niedrige Latenz zu 
- [Compare with AMD GAIA (Lemonade), Ollama and LM Studio](https://versurft.de/lokale-ki/video/compare-with-amd-gaia-lemonade-ollama-and-lm-studio-fKPoVWtbwAk/): Das Video vergleicht AMD GAIA (Lemonade), Ollama und LM Studio für lokale LLM-Ausführung. Im Fokus stehen Leistungsaufnahme und Temperaturen
- [ComfyUI on Windows 11 with ROCm (Unofficial)](https://versurft.de/lokale-ki/video/comfyui-on-windows-11-with-rocm-unofficial-gfcOt1-3zYk/): Das Video zeigt, wie man ComfyUI unter Windows 11 mit inoffiziellen ROCm-Treibern bzw. einem ROCm-Fork zum Laufen bringt. Es ist als Schritt
- [Intel just CRUSHED Nvidia & AMD GPU pricing](https://versurft.de/lokale-ki/video/intel-just-crushed-nvidia-amd-gpu-pricing-RcIWhm16ouQ/): Alex Ziskind vergleicht Intel-GPUs (B70) mit Nvidia- und AMD-Karten und ordnet Preis-Leistung sowie VRAM-Kapazität ein. Er testet unter ande
- [My Framework Investment Should NOT Have Worked Out](https://versurft.de/lokale-ki/video/my-framework-investment-should-not-have-worked-out--lErGZZgUbY/): Linus Tech Tips berichtet über eine Investition in Framework und deren neue Produkte. Dazu gehört ein Mini-Desktop mit AMD-Strix-Halo-APU mi
- [Apple JUST Dropped a Game-Changer](https://versurft.de/lokale-ki/video/apple-just-dropped-a-game-changer-A0onppIyHEg/): Alex Ziskind ordnet Apples neuen Vorstoß im lokalen KI-Bereich ein, vermutlich rund um MLX-distributed bzw. RDMA über Thunderbolt für vertei
- [🚀 Gemma3:4B Vision Speed Test — NPU vs CPU vs GPU (side-by-side comparison)](https://versurft.de/lokale-ki/video/gemma3-4b-vision-speed-test-npu-vs-cpu-vs-gpu-side-by-side-comparison-CE5-_Er2kAw/): Das Video vergleicht die Inferenzgeschwindigkeit von Gemma3:4B Vision auf NPU, CPU und GPU in einer Side-by-Side-Demo. Es zeigt, wie sich ei
- [Olares One First Look & Testing – A Personal Cloud & LOCAL AI PC!](https://versurft.de/lokale-ki/video/olares-one-first-look-testing-a-personal-cloud-local-ai-pc-2nRua1SmxXM/): Bijan Bowen stellt den Olares One vor und testet ihn als Personal-Cloud- und Local-AI-PC. Der Fokus liegt auf Hardware, Größe, Kühlung und d
- [GPT-OSS-20B vs. Phi-4: Best Private AI for Word](https://versurft.de/lokale-ki/video/gpt-oss-20b-vs-phi-4-best-private-ai-for-word-6SARTUkU8ho/): Das Video vergleicht GPT-OSS-20B und Phi-4 als lokale KI-Modelle für Textarbeit in Microsoft Word. Es zeigt, wie private LLMs direkt beim Ed
- [How to finetune your own Alpaca 7B](https://versurft.de/lokale-ki/video/how-to-finetune-your-own-alpaca-7b-LSoqyynKU9E/): Das Video zeigt, wie man ein Alpaca-7B-Modell mit eigenen Daten finetuned. Sam Witteveen führt durch den Prozess und erklärt die nötigen Sch
- [[Full Workshop] Reinforcement Learning, Kernels, Reasoning, Quantization & Agents — Daniel Han](https://versurft.de/lokale-ki/video/full-workshop-reinforcement-learning-kernels-reasoning-quantization-ag-OkEGJ5G3foU/): Das Workshop-Video von Daniel Han (Unsloth) behandelt Reinforcement Learning, Kernel-Optimierungen, Reasoning, Quantisierung und Agenten im 
- [Low-Latency Strix Halo Cluster with RDMA (RoCE/Intel E810) and vLLM, Framework Desktop Boards](https://versurft.de/lokale-ki/video/low-latency-strix-halo-cluster-with-rdma-roce-intel-e810-and-vllm-fram-nnB8a3OHS2E/): Das Video zeigt einen Cluster aus Framework Desktop Boards mit Strix Halo, der per RDMA/RoCE und Intel E810 vernetzt ist und mit vLLM betrie
- [MI210s vs A100 -- Is ROCm Finally Viable in 2023? Tested on the Supermicro AS-2114GT-DNR](https://versurft.de/lokale-ki/video/mi210s-vs-a100-is-rocm-finally-viable-in-2023-tested-on-the-supermicro-IhlL1_z8mCE/): Das Video vergleicht AMD MI210- und Nvidia A100-GPUs unter ROCm anhand von Stable-Diffusion-Läufen auf einem Supermicro-Server. Es bewertet,

## Optional

- [Alle Videos mit Einordnung](https://versurft.de/lokale-ki/llms-full.txt)
- [Sitemap](https://versurft.de/lokale-ki/sitemap.xml)