GLM 4.5-Air-106B and Qwen3-235B on AMD "Strix Halo" AI Ryzen MAX+ 395 (HP Z2 G1a Mini Workstation)

Donato Capitella · Messung · Fortgeschritten

Kurz gesagt

Das Video behandelt den Betrieb von GLM 4.5-Air-106B und Qwen3-235B auf einem AMD-Strix-Halo-System in einer HP-Z2-G1a-Mini-Workstation. Im Mittelpunkt stehen offenbar Einrichtung und Geschwindigkeit; in den Kommentaren wird auf zusätzlichen Setup-Aufwand bei Strix Halo und Alternativen zu Ollama hingewiesen. Es eignet sich für Leute, die lokale LLMs auf AMD-Hardware ausprobieren und Konfigurationshinweise suchen.

Das lernst du

• Strix Halo braucht mehr Einrichtung für gute Geschwindigkeit
• Vulkan llama.cpp im Docker-Container wird als Alternative genannt
• Linux-Setup-Videos und TTS/STT-Beispiele werden empfohlen

Warum es für lokale KI zählt

Es zeigt, wie aktuelle große Open-Weight-Modelle auf kompakter lokaler AMD-Hardware ohne dedizierte GPU laufen können.

Hardware: Workstation, etwa 128 GB VRAM, Modell mit 235 Mrd. Parametern.

Was dazu gesagt wurde

„With ollama, I never got high speed on my (previous gen) 780m ryzen igpu.“

Reddit · 2025

Woher die Empfehlung kommt

3 Personen haben dieses Video 3× empfohlen, in 3 verschiedenen Monaten, in r/LocalLLaMA.

Hardware & Beschaffung Modelle & Auswahl Benchmarks & Messungen