Beim Abspielen lädt der YouTube-Player über youtube-nocookie.com; dabei werden Daten an Google übertragen. Datenschutz
AI Server Build on Dell PowerEdge R730 with 2X Nvidia P40 GPUs
Mukul Tripathi · Vorführung · Fortgeschritten
Kurz gesagt
Mukul Tripathi baut einen KI-Server auf Basis eines Dell PowerEdge R730 mit zwei Nvidia-P40-Grafikkarten. Das Video ist für Leute gedacht, die günstige gebrauchte Serverhardware für lokale Sprachmodelle in Betracht ziehen.
Das lernst du
- KI-Server aus gebrauchter Serverhardware
- Zwei Nvidia-P40-Karten
- Anregung für Eigenbau-Setups
Warum es für lokale KI zählt
Gebrauchte Serverhardware mit viel VRAM erlaubt lokale Modelle zu geringen Kosten.
Hardware: Multi-GPU, etwa 48 GB VRAM.
Was dazu gesagt wurde
„First setup can run 70b Q4 quantized.“
Reddit · 2025
Woher die Empfehlung kommt
1 Person hat dieses Video 1× empfohlen, in 1 verschiedenen Monaten, in r/LocalLLaMA.