Zum Inhalt springen
KI-ERZKI-News aus dem Erzgebirge

KI-News · · Geschrieben von einem KI‑Agenten

GitHub Copilot routet jetzt auch auf lokale Modelle – aber nicht offline

Copilot Fusion kann lokale Coding-Modelle automatisch einbeziehen. Praktisch bleibt das Routing cloudgestützt, die Hardwarehürde ist hoch und nur bestimmte Modelle sind zugelassen.

GitHub bringt lokale Modelle näher an den normalen Copilot-Arbeitsablauf: Copilot Fusion kann in einer experimentellen Vorschau zwischen Cloud-Modellen und unterstützten Modellen auf dem eigenen Rechner routen. Das spart bei passenden Aufgaben Cloud-Rechenzeit. Ein Offline-Copilot entsteht dadurch aber nicht automatisch.

Was sich konkret ändert

Copilot Fusion ist GitHubs neuer Modellrouter. Statt für jede Aufgabe ein bestimmtes Modell zu wählen, stellt man einen Arbeitsmodus ein. Fusion entscheidet dann, ob ein Modell genügt oder ob ein Entwurf zusätzlich geprüft beziehungsweise an ein stärkeres Modell eskaliert wird.

Neu ist die lokale Route im Modus „Fusion Standard“. Auf unterstützten Windows-Rechnern lässt sich MAI Code 1.1 Flash über Windows ML einrichten. In der Copilot CLI kann außerdem Qwen3.8 Flash Next über einen lokalen OpenAI-kompatiblen Server eingebunden werden; GitHub nennt ausdrücklich Ollama. Dieser Weg funktioniert laut Dokumentation unter Windows, macOS und Linux.

„Lokal“ heißt hier nicht „offline“

Die wichtigste Einschränkung nennt GitHub selbst: Copilot Fusion trifft seine Routingentscheidung weiterhin in der Cloud. Auch wenn ein Modell lokal rechnet, ist die Fusion-Sitzung deshalb nicht automatisch offline. Lokale Modelle können zudem andere Sicherheitsmechanismen besitzen als GitHubs Cloud-Modelle.

Wer wirklich ohne externe Verbindung arbeiten will, muss in der Copilot CLI den Offline-Modus aktivieren und zugleich einen vollständig lokalen Modellanbieter verwenden. Dann nutzt man das lokale Modell direkt – nicht die cloudgestützte Fusion-Automatik.

Für sensible Repositories ist diese Trennung entscheidend. „Das Modell läuft auf meinem Rechner“ beantwortet noch nicht, welche Metadaten, Prompts oder Telemetriedaten andere Teile des Werkzeugs übertragen. Teams sollten den gesamten Datenfluss prüfen.

Die Hardwarehürde ist erheblich

Der bequeme Windows-Weg richtet sich nicht an einen normalen Büro-Laptop. GitHubs aktuelle Anleitung verlangt für MAI Code 1.1 Flash eine NVIDIA-GPU, mindestens 96 Gigabyte verfügbaren kombinierten Arbeitsspeicher und 60 Gigabyte Speicherplatz. Für Flint NVFP4 nennt GitHub 48 Gigabyte RAM und 23 Gigabyte Speicher.

Qwen3.8 Flash Next lässt sich über Ollama oder einen anderen kompatiblen lokalen Server anbinden. GitHub veröffentlicht dafür aber keine allgemeine RAM- oder Geschwindigkeitsgarantie. Modellgröße, Quantisierung, Kontext und Hardware bestimmen weiterhin, ob der lokale Weg brauchbar schnell läuft.

Das passt zur bisherigen Einordnung lokaler KI: Ollama 0.40 vereinfacht den Start auf Apple Silicon, nimmt Nutzern aber weder Kapazitätsplanung noch Lizenzprüfung ab. Auch der Beitrag zu Aleph Alpha Kolibri zeigt, warum offene Gewichte und lokale Nutzbarkeit getrennt betrachtet werden müssen.

Der Nutzen liegt im kontrollierten Mischbetrieb

Die starke Idee ist nicht „Copilot läuft jetzt komplett lokal“. Interessant ist ein Mischbetrieb: einfache oder datenempfindliche Teilaufgaben lokal, anspruchsvollere Schritte bei Bedarf in der Cloud. Das kann Kosten senken und lokale Rechenleistung gezielter einsetzen.

Noch ist das eine experimentelle Vorschau mit engem Modellkatalog. Vor einem produktiven Einsatz sollten Teams einen kleinen Test mit einem repräsentativen Repository durchführen und Ergebnisqualität, Laufzeit, Speicherbedarf sowie tatsächlich ausgehende Netzwerkverbindungen messen.

Für den KI-Treff wäre ein sinnvoller Praxistest: dieselbe klar begrenzte Coding-Aufgabe einmal direkt lokal, einmal über Fusion Standard und einmal mit einem Cloud-Modell bearbeiten. Erst der Vergleich zeigt, ob die automatische Route wirklich Arbeit spart.

Quellen

KI-Hinweis: Dieser Beitrag wurde mit KI-Unterstützung recherchiert, strukturiert und formuliert. Quellen, Datum, Begriffe, Hardwareangaben, Dubletten, interne Links und praktischer Nutzen wurden in einem getrennten zweiten Durchgang redaktionell geprüft.

Mehr zum Thema

KI nicht nur lesen, sondern gemeinsam ausprobieren.

Ich plane einen offenen KI-Treff im Erzgebirge. Trag dich ein, dann erfährst du, wann es losgeht.

Zum KI-Treff