Beim Abspielen lädt der YouTube-Player über youtube-nocookie.com; dabei werden Daten an Google übertragen. Datenschutz
RTX 3060 vs RTX 3090: LLM Performance on 7B, 14B, 32B, 70B Models
BlueSpork · Messung · Fortgeschritten
Kurz gesagt
BlueSpork vergleicht die Grafikkarten RTX 3060 und RTX 3090 bei Sprachmodellen mit 7B, 14B, 32B und 70B. Das Video hilft bei der Frage, welche Karte für welche Modellgröße ausreicht.
Das lernst du
- RTX 3060 und 3090 bei Sprachmodellen vergleichen
- Modellgrößen und Grafikkarte zusammen denken
- Hilfe bei der Kaufentscheidung
Warum es für lokale KI zählt
Es zeigt, was günstige und gebrauchte GPUs bei lokalen Modellen leisten.
Hardware: Consumer-GPU, etwa 24 GB VRAM.
Was dazu gesagt wurde
„The main benefit of Vulkan imo is that it's easier to get up and running compared to ROCm, it's just plug and play.“
Reddit · 2025
Woher die Empfehlung kommt
1 Person hat dieses Video 1× empfohlen, in 1 verschiedenen Monaten, in r/LocalLLaMA.