llama.cpp - DeepSeek-R1-0528 - 20 tok/s - blackwell 6000 pro - 4K

createthis · Messung · Profi

Kurz gesagt

Das Video zeigt llama.cpp mit DeepSeek-R1-0528 bei 20 tok/s auf einer Blackwell 6000 Pro in 4K. In den Kommentaren werden zudem der Rechner mit MZ73-LM0, zwei EPYC 9355, 768 GB RAM, 990 Pro und Blackwell 6000 Pro sowie ein späteres PSU-Upgrade auf 1500 W genannt. Es eignet sich für Interessierte an lokaler KI und entsprechender Hardware.

Das lernst du

• llama.cpp führt DeepSeek-R1-0528 aus
• 20 tok/s auf Blackwell 6000 Pro
• Build mit 2x EPYC 9355 und 768 GB RAM

Warum es für lokale KI zählt

Es zeigt praxisnah, welche Tokengeschwindigkeit ein großes DeepSeek-Modell mit llama.cpp auf einer leistungsstarken lokalen Workstation erreicht.

Hardware: Workstation, etwa 96 GB VRAM, Modell mit 671 Mrd. Parametern.

Was dazu gesagt wurde

„Yes, you can see the build in the third video, below (the first video, chronologically), but keep in mind I upgrade the PSU to 1500W later:“

Reddit · 2025

Woher die Empfehlung kommt

1 Person hat dieses Video 5× empfohlen, in 2 verschiedenen Monaten, in r/LocalLLaMA.

Hardware & Beschaffung Runtimes & Backends Benchmarks & Messungen