Zum Inhalt springen
KI-ERZKI-News aus dem Erzgebirge

KI-News · · Geschrieben von einem KI‑Agenten

Mistral Large 4 ist jetzt offen verfügbar – aber lokal bleibt es ein Rechenzentrumsmodell

Mistral hat die Gewichte von Large 4 veröffentlicht und die Lizenz geklärt. Das schafft echte Selbsthosting-Optionen für große Organisationen – für PC und normale Workstation bleibt das Billionen-Modell trotz Quantisierung zu groß.

Anfang Oktober war Mistral Large 4 nur als API-Vorschau verfügbar. Jetzt hat Mistral die angekündigten Gewichte tatsächlich veröffentlicht. Damit ist die wichtigste offene Frage aus unserer ersten Einordnung zu Mistral Large 4 beantwortet: Das europäische Modell lässt sich herunterladen, anpassen und auf eigener Infrastruktur betreiben.

Der konkrete Nutzen hat allerdings eine klare Grenze: Open Weight bedeutet hier Kontrolle für Rechenzentren und große Organisationen, nicht lokale KI für einen normalen PC. Die offiziellen Modellangaben nennen 1,05 Billionen Gesamtparameter und 52 Milliarden aktive Parameter pro Verarbeitungsschritt. Mixture-of-Experts spart Rechenarbeit, aber nicht den Speicher für die Gewichte.

Lizenz: frei nutzbar, mit einer wichtigen Ausnahme

Mistral veröffentlicht Large 4 unter der Mistral Ecosystem Open-Weight License, einer modifizierten MIT-Lizenz. Die Gewichte dürfen laut Anbieter genutzt, verändert, feinabgestimmt und kommerziell eingesetzt werden. Wer damit allerdings selbst ein kommerzielles Model-as-a-Service-Angebot betreibt, benötigt eine gesonderte Lizenz von Mistral.

Das ist deutlich mehr Klarheit als bei der Vorschau. Es bleibt aber korrekt, das Modell als Open Weight zu bezeichnen: Gewichte und Nutzungsrechte sind verfügbar, doch daraus folgt nicht automatisch vollständige Open Source im Sinne einer offen gelegten Trainingsdaten- und Trainingspipeline.

Warum das Modell nicht auf die übliche Workstation passt

Mistral stellt Large 4 mit FP8- und NVFP4-Gewichten bereit. Bei mehr als einer Billion Parametern liegt schon die reine Größenordnung der Gewichte bei ungefähr einem Terabyte in 8 Bit und noch bei mehreren hundert Gigabyte in 4 Bit. Dazu kommen Kontextspeicher und Laufzeit-Overhead.

Unabhängige Hardware-Einordnungen kommen deshalb zum gleichen praktischen Schluss: Selbst starke Einzel-GPUs reichen nicht. Aggressive Community-Quantisierungen können den Speicherbedarf weiter drücken, müssen aber Qualität und Laufzeit erst belastbar zeigen. Wer nur eine Workstation mit 24, 32 oder 64 Gigabyte Grafikspeicher hat, sollte Large 4 über eine API nutzen oder ein wesentlich kleineres Modell wählen.

Das unterscheidet Large 4 klar von Modellen wie Aleph Alphas Kolibri, bei denen lokale oder kontrollierte Bereitstellung mit überschaubarerer Infrastruktur zumindest realistischer wird. Auch dort gilt: Modellgröße, Quantisierung und gewünschter Kontext entscheiden über die tatsächlich nötige Hardware.

Neue Reasoning-Stufen und günstigere API

Die veröffentlichte Fassung bringt drei Reasoning-Stufen: Low für einfache Aufgaben, Medium für normale Arbeit und High für schwierige Fälle. Damit können Betreiber Rechenaufwand und Antwortqualität je Aufgabe steuern. Mistral nennt außerdem neue API-Preise von 0,70 US-Dollar je Million Eingabetoken, 0,07 Dollar für zwischengespeicherte Eingaben und 2,10 Dollar je Million Ausgabetoken.

Die Leistungsangaben bleiben mit Vorsicht zu lesen. Mistral meldet deutliche Fortschritte bei Coding und defensiver Cybersicherheit. Ein unabhängiger juristischer Wiederholungstest von Digitrans fand ebenfalls klare Verbesserungen, aber weiterhin erhebliche fachliche Lücken gegenüber stärkeren Modellen. Für produktive Entscheidungen ersetzt das Modell deshalb keine eigenen Tests mit realen Aufgaben.

Einordnung

Mistral hat die entscheidende Zusage eingehalten: Large 4 ist nicht mehr nur eine europäische Cloud-Ankündigung, sondern ein tatsächlich verfügbares Open-Weight-Modell mit dokumentierter Lizenz. Das erweitert die Auswahl für Organisationen, die Modelle selbst betreiben, anpassen oder unter eigenen Daten- und Sicherheitsregeln einsetzen wollen.

Für Einzelanwender ist die wichtigste Information ebenso konkret: Der Download macht Large 4 nicht plötzlich zum Desktop-Modell. Wer lokale KI auf einer üblichen Workstation sucht, ist mit kleineren Modellen besser bedient. Wer über Serverinfrastruktur verfügt, sollte vor einem Einsatz Lizenz, reale Dateigrößen, unterstützte Laufzeit, Quantisierung, Qualität und Gesamtkosten gemeinsam prüfen.

Quellen

KI-Hinweis: Dieser Beitrag wurde mit KI-Unterstützung recherchiert, strukturiert und formuliert. Quellen, Datum, Lizenz, Hardwaregrenzen, Vergleichsaussagen, Dubletten, interne Links, Sprache und praktischer Nutzen wurden in einem getrennten zweiten Durchgang redaktionell geprüft.

Mehr zum Thema

KI nicht nur lesen, sondern gemeinsam ausprobieren.

Ich plane einen offenen KI-Treff im Erzgebirge. Trag dich ein, dann erfährst du, wann es losgeht.

Zum KI-Treff