1 🚀 ROCm (Das freie Fundament für AMD-KI und GPU-Computing)
Jahrelang war NVIDIAs CUDA-Infrastruktur die einzig praktikable Plattform, um KI-Modelle oder komplexe mathematische Berechnungen über die Grafikkarte laufen zu lassen. AMD hielt lange Zeit nur mit OpenCL dagegen, was für moderne Deep-Learning-Frameworks jedoch zu unflexibel war.
ROCm bricht dieses Monopol durch eine offene, modulare Compute-Architektur.
Die wichtigste Säule innerhalb von ROCm ist HIP (Heterogeneous-Compute Interface for Portability). HIP ist eine C++-Laufzeitumgebung und ein Dialekt, der es Entwicklern erlaubt, bestehenden CUDA-Code von NVIDIA fast eins zu eins zu nehmen und mit minimalem Aufwand in Code zu übersetzen, der nativ auf AMD-Hardware läuft. Im Hintergrund greift ROCm auf spezialisierte Bibliotheken zu:
- rocBLAS / rocSOLVER: Für hochparallele Matrix-Berechnungen.
- MIOpen: AMDs Beschleunigungs-Bibliothek für neuronale Netze (das direkte Äquivalent zu NVIDIAs cuDNN).
Die Kernphilosophie von ROCm lautet:
„Biete eine kompromisslos offene, quelloffene und performante Compute-Plattform. Eliminiere proprietäre Vendor-Locks und maximiere die Rechenleistung moderner Radeon- und Instinct-GPUs im KI-Zeitalter.“
2 📦 DIE INSTALLATIONSBEFEHLE FÜR DIE „FANTASTISCHEN VIER“
Die Installation von ROCm erfordert Präzision, da das System aus einem Kernel-Treiberteil und den Userspace-Bibliotheken besteht. Wir konzentrieren uns hier auf die Installation der Kern-Compute-Bibliotheken und des HIP-Compilers.
2.1 1️⃣ Debian 13 „Trixie“
AMD bietet für Debian offizielle Paketquellen an. Für den Betrieb von KI-Umgebungen (wie Ollama oder PyTorch) sind folgende Schritte zwingend erforderlich:
# 1. System vorbereiten und AMD-Repository-Schlüssel hinzufügen
sudo apt update && sudo apt install -y wget gpg apt-transport-https
sudo mkdir -p /etc/apt/keyrings
wget -qO - https://repo.radeon.com/rocm/rocm.gpg.key | gpg --dearmor | sudo tee /etc/apt/keyrings/rocm.gpg > /dev/null
# 2. Das offizielle ROCm-Repository (aktuelle Version 6.x) für Trixie einbinden
echo "deb [arch=amd64 signed-by=/etc/apt/keyrings/rocm.gpg] https://repo.radeon.com/rocm/apt/6.1 trixie main" | sudo tee /etc/apt/sources.list.d/rocm.list
# 3. Paketquellen aktualisieren und die Kern-Runtimes inklusive HIP-Compiler installieren
sudo apt update
sudo apt install -y rocm-hip-sdk rocm-opencl-sdk
# 4. WICHTIG: Den eigenen Benutzer in die Render- und Video-Gruppen aufnehmen, um Zugriff auf die GPU-Hardware zu gewähren
sudo usermod -aG render,video $USER
# 5. Funktionstest (Erfordert einen System-Neustart nach dem Gruppen-Join!)
rocminfo2.2 2️⃣ Arch Linux
Unter Arch Linux ist die Installation dank des offiziellen [extra]-Repositories extrem elegant gelöst. Die Pakete sind vollständig modularisiert.
# 1. Die Kern-ROCm-Laufzeitumgebung und das Info-Tool installieren
sudo pacman -Sy --needed rocm-core rocm-hip-runtime rocminfo
# 2. Die mathematischen Bibliotheken für KI-Support (PyTorch/Ollama) nachziehen
sudo pacman -S --needed rocblas miopen-hip
# 3. Den Benutzer für den Hardwarezugriff freischalten
sudo usermod -aG render,video $USER
# 4. Funktionstest
rocminfo2.3 3️⃣ Fedora
Fedora führt ROCm-Pakete direkt in seinen offiziellen Standard-Repositorys, weshalb hier kein externes AMD-Repo manuell injiziert werden muss.
# 1. ROCm-Core, HIP und Entwicklungswerkzeuge via DNF installieren
sudo dnf install -y rocm-core rocm-hip rocm-runtime rocminfo
# 2. KI-relevante Rechenbibliotheken installieren
sudo dnf install -y rocblas-devel miopen-hip-devel
# 3. Gruppenrechte vergeben
sudo usermod -aG render,video $USER
# 4. Funktionstest
rocminfo2.4 4️⃣ openSUSE (Tumbleweed)
Unter openSUSE Tumbleweed stehen die ROCm-Infrastrukturen direkt in den offiziellen Hauptquellen bereit.
# 1. ROCm-Basispakete und HIP-Bibliotheken installieren
sudo zypper install -y rocm-core rocm-hip rocminfo
# 2. Mathematische Beschleuniger hinzufügen
sudo zypper install -y rocblas-devel miopen-hip
# 3. Benutzerrechte anpassen
sudo usermod -aG render,video $USER
# 4. Funktionstest
rocminfo3 🛠️ Verwendung in der Praxis
Sobald ROCm installiert ist, lässt sich die Hardware über spezialisierte CLI-Tools überwachen und steuern:
# 1. Detaillierte Hardware-Informationen und unterstützte Befehlssätze der AMD-GPU ausgeben
rocminfo
# 2. Das AMD-Gegenstück zu "nvidia-smi": Zeigt GPU-Auslastung, VRAM-Belegung und Temperaturen in Echtzeit an
rocm-smi
# 3. Überprüfung, ob der HIP-Compiler einsatzbereit ist und welche Version vorliegt
hipcc --version
# 4. Laufende KI-Prozesse auf der GPU überwachen (z.B. Ollama-Instanzen)
rocm-smi --showprocs4 ⚠️ DIE TYPISCHEN ROCM-STOLPERSTEINE
4.1 Das „rocminfo bricht ab / GPU wird nicht gefunden“ - Rechteproblem
- Das Problem:
Ein Nutzer installiert brav alle Pakete, gibt im Terminal rocminfo ein, erhält aber die Fehlermeldung: „HSA-Error: HSA_STATUS_ERROR_OUT_OF_RESOURCES“ oder eine Verweigerung des Zugriffs. - Die Ursache:
Der Benutzer hat keine physikalischen Rechte, direkt auf die Kernel-Schnittstellen der Grafikkarte (/dev/kfd und /dev/dri/render*) zuzugreifen. - Die Lösung: Der Nutzer muss zwingend den Gruppen video und render hinzugefügt werden:
sudo usermod -aG render,video $USER
danach ist ein vollständiger System-Neustart (oder ein kompletter Desktop-Logout) nötig, da die Gruppenrechte im aktuellen Terminal-Kontext sonst nicht greifen.
4.2 Das „Meine Consumer-Karte (z.B. RX 6700 XT oder RX 7700 XT) wird ignoriert“ - Dilemma
- Das Problem:
Ein Anwender möchte Ollama oder PyTorch mit seiner normalen Radeon-Gaming-Karte nutzen. ROCm ist fehlerfrei installiert, aber die KI weigert sich strikt, die GPU zu nutzen und fällt quälend langsam auf die CPU zurück. - Die Ursache:
AMD unterstützt ROCm offiziell nur für professionelle Server-Karten (Instinct-Reihe) und ausgewählte High-End-Consumer-Karten (wie die RX 7900 XTX). Kleinere Consumer-Karten besitzen architektonisch zwar dieselben Rechenkerne, werden vom ROCm-Treiber aber standardmäßig blockiert, weil sie nicht offiziell validiert wurden. - Der goldene Foren-Hack:
Man kann den ROCm-Treiber über eine globale Umgebungsvariable zwingen, die Karte als ein unterstütztes Modell zu behandeln. Dazu muss der Nutzer die Variable HSA_OVERRIDE_GFX_VERSION setzen.- Für RDNA2-Karten (z.B. RX 6700/6800): export HSA_OVERRIDE_GFX_VERSION=10.3.0
- Für RDNA3-Karten (z.B. RX 7700/7800): export HSA_OVERRIDE_GFX_VERSION=11.0.0
IDiese Zeile muss fest in die ~/.bashrc oder ~/.zshrc (oder in die Service-Datei von Ollama) eintragwen. Danach wacht die Karte sofort auf und rechnet auf Chiplevel mit voller Geschwindigkeit.
5 📝 FAZIT
ROCm ist das unverzichtbare Rückgrat für jeden AMD-Nutzer, der im lokalen AI- und Rechen-Bereich mitmischen will.