Stand: 6. Mai 2026. Claude Code ist ein Werkzeug, das über die Kommandozeile am Projekt arbeitet – Dateien liest, ändert, Befehle ausführt. Üblicherweise spricht es dabei mit der Schnittstelle des Anbieters. Es geht aber auch anders: mit einem Modell, das auf dem eigenen Rechner läuft.

Wie der Aufbau funktioniert

  1. Modell lokal betreibenÜber eine Laufzeitumgebung wie Ollama, die Modelle auf der eigenen Grafikkarte ausführt und eine Schnittstelle bereitstellt.
  2. Zwischendienst einrichtenEin kleiner Vermittler übersetzt zwischen dem Format, das Claude Code erwartet, und dem, was die lokale Laufzeit spricht.
  3. Claude Code umlenkenÜber Umgebungsvariablen auf die lokale Adresse statt auf die des Anbieters.

Zur Hardware: Entscheidend ist der Speicher auf der Grafikkarte, nicht die Rechenleistung. Eine Karte mit 24 GB führt Modelle mittlerer Größe flüssig aus; darunter wird ausgelagert, und dann ist es nicht mehr flüssig. Vierundzwanzig Gigabyte sind die Schwelle, ab der es Spaß macht.

Wofür sich das lohnt

  • Vertraulichkeit: Code, der das Haus nicht verlassen darf – der häufigste und beste Grund.
  • Verfügbarkeit: Kein Kontingent, keine Abhängigkeit von einem Dienst, der abgeschaltet werden kann. Wie schnell das gehen kann, zeigte die dreiwöchige Aussetzung im Juni.
  • Wiederholbare Aufgaben: Umbenennen, Umformatieren, Muster ersetzen – dafür reicht ein kleines Modell völlig.

Wofür nicht

Für alles, was Urteilsvermögen verlangt. Ein Modell, das auf eine Grafikkarte passt, ist um Größenordnungen kleiner als das, was über die Schnittstelle antwortet – und das merkt man bei mehrschrittigen Aufgaben sofort. Es hält den Faden nicht so lange, übersieht Zusammenhänge und braucht kleinteiligere Anweisungen.

Die ehrliche Einordnung: Der lokale Aufbau ist kein Ersatz, sondern eine Ergänzung. Wer ihn wegen der Kosten aufsetzt, rechnet meist falsch – Strom und Arbeitszeit für die Einrichtung übersteigen die Nutzungsgebühren schnell. Wer ihn wegen Vertraulichkeit aufsetzt, hat einen Grund, der sich nicht wegdiskutieren lässt.

Verwandt: KI im Unternehmen · Daten in der Cloud