Mistral Large 4 zum Download: Eine Billion Parameter im Büro
Mistral Large 4: 1,05 Billionen Parameter frei auf Hugging Face. Kosten, lokales Hosting und Chancen für Schweizer AEC-Büros.
Am 29. Oktober 2026 stellte Mistral AI in Paris die vollständigen Gewichte von Large 4 auf Hugging Face bereit. Das Modell hat etwa 1,05 Billionen Parameter, ein Kontext-Fenster von 1 Million Token und native Multimodalität. Es ist nicht länger nur ein Service, den man pro Token mietet. Es ist eine Datei, die man herunterladen, auf eigenen Maschinen ausführen und feinabstimmen kann. Für ein Ingenieurbüro, das bei jedem Spital-, Bank- und Regierungsprojekt NDAs unterzeichnet, ist dieser Unterschied wichtiger als jedes Leaderboard.
Was ist eingegangen – mechanisch
Open Weights bedeutet, dass die trainierten Zahlen selbst, der ganze gelernte Zustand des Modells, veröffentlicht werden. Man erhält das Modell, nicht einen Endpoint. Large 4 folgt einer Mixture-of-Experts-Architektur. Von seinen 1,05 Billionen Parametern sind laut Mistrals Dokumentation 52 Milliarden für jeden Token aktiv, plus ein 1,6-Milliarden-Vision-Encoder. Ein Router leitet jeden Token an einige spezialisierte Sub-Netzwerke weiter, sodass das Modell eine Billion Parameter Wissen hält, aber die Compute-Kosten eines viel kleineren trägt. Der Haken ist der Speicher. Alle Experten müssen irgendwo sitzen.
Das Training fand in Europa statt. Mistrals Ankündigung vom 6. Oktober besagt, dass Large 4 „von Grund auf auf 3.800 NVIDIA Grace Blackwell GPUs in Mistrals eigenen Rechenzentren in Europa trainiert” wurde. Beatrice Nolan von Fortune berichtet, dass das Training auf einem 10-Megawatt-Cluster in Frankreich lief. Die Lizenz ist die Mistral Ecosystem Open Weight License v26.10. Hugging Face beschreibt sie als MIT-Derivat, das die Weiterveräusserung als Model-as-a-Service einschränkt. Lesen Sie diese Bedingungen, bevor ein Büro sie einsetzt.
Die Hardware, die ein Büro preisen kann
Dieser Teil gehört auf das Whiteboard jedes IT-Leiters. Der Hugging Face Blog von Pedro Cuenca, Alvaro Bartolome, Quentin Gallouédec und Kollegen gibt drei getestete Rezepte:
- 8 × NVIDIA H200 in FP8, über Inference Endpoints.
- 4 × B300 auf einem Node in NVFP4.
- Ein Apple M3 Ultra mit 512 GB Unified Memory, mit einem 2-Bit-Q2_K-Build via llama.cpp.
Diese letzte Zeile ist stille Ingenieurarbeit von Menschen, die wenige Leser je nennen werden. Das Team von Hugging Face hat das Rezept getestet und dokumentiert. Die llama.cpp-Mitwirkenden, eine Gemeinschaft, die von Georgi Gerganov gegründet wurde, haben es geschafft, dass ein Billionen-Parameter-Modell überhaupt auf einem Desktop lädt. Verpackung ist die schwierigere Hälfte des Versands, und es ist offene Arbeit. Der Kompromiss ist klar: ein 2-Bit-Build passt in die Box, aber das Komprimieren von Gewichten so stark kostet an Genauigkeit, und seine Geschwindigkeit auf dieser Box ist noch nicht verifiziert. Das Mieten bleibt möglich. Mistrals API kostet $0,70 pro Million Input-Token und $2,10 pro Million Output-Token.
←HEUTE: Im November 2026 passt ein europäisches Billionen-Parameter-Modell bei 2 Bit in eine 512-GB-Workstation.
→3012: Zürichs Archive halten ihre Modelle auf ihren Böden, und jedes Büro behandelt sein Modell als Teil seines Gebäudebestands.
Fulcrum: Das Eigentum an der Datei ist nur Souveränität, wenn man auch die Instandhaltung trägt.
Kontinuität und wer trägt sie
Pierre Stock, Mistrals VP of Science, sagte Fortune, dass regulierte Kunden zuerst nach „Geschäftskontinuität” fragen. Mit öffentlichen Gewichten, sagte er, „ist es unmöglich, den Zugriff abzuschneiden.” Das ist das Wesen der Veröffentlichung: Eine heruntergeladene Kopie funktioniert weiterhin, was auch immer einem Anbieter, einem Vertrag oder einer Grenze geschieht.
Die Analysten ergänzen die andere Hälfte. Niyati Daftary von Gartner sagte CSO, dass Self-Hosting „das Unternehmen allein verantwortlich macht für Patching, Monitoring, Evaluierung und Missbrauchsprävention.” Stock bestätigte gegenüber CSO, dass spätere Sicherheitsupdates zu Mistrals verwalteter API gehen, sodass bereits heruntergeladene Kopien diese nicht erhalten. Charlie Dai von Forrester fasste es so zusammen: „Souveränität und Sicherheit müssen daher zusammen evaluiert werden, nicht gegeneinander abgewogen.” Von meinem Blickwinkel in den späten 2070ern sahen die Büros, die es gut durchkamen, ein lokales Modell wie einen Lift oder ein Sprinklersystem: im Besitz, inspiziert, protokolliert.
Atelier: Ein Schweizer Büro mit Client-NDAs hat nun einen echten Weg, um Projektdaten auf seinen eigenen Räumlichkeiten zu halten und trotzdem ein grosses Modell zu nutzen. Die Kosten sind, dass die Modellpflege zu einer internen Aufgabe wird. Montagsschritt: Nennen Sie eine Person als Modellkustodian, verantwortlich dafür, welcher Build läuft, wo er läuft, und wann er zuletzt aktualisiert wurde.
Hack: Dimensionieren Sie die Box vor dem Kauf, indem Sie den Gewichtsfussabdruck bei jeder Genauigkeit berechnen. Die Zählung ist Parameter mal Bits, geteilt durch acht, vor Cache und Overhead. Führen Sie es in jeder Python-Shell aus:
params = 1.05e12 # Mistral docs, total
for name, bits in [("FP8", 8), ("NVFP4", 4), ("Q2_K", 2)]:
gb = params * bits / 8 / 1e9
print(f"{name}: ~{gb:,.0f} GB of weights")Sie erhalten ungefähr 1.050 GB, 525 GB und 262 GB. Das zeigt, warum 2-Bit die einzige Genauigkeit ist, die in 512 GB passt, und warum der lange Kontext-Cache in dem verbleibenden Platz leben muss.
Für PAZ-Kurse und PAZ-GPT-Arbeit ist dies die Form einer KI-nativen Praxis: Architekten, die eine Modellkarte so lesen können, wie sie einen Strukturbericht lesen. Finden Sie den Projektordner, den Ihr Kunde niemals aus dem Gebäude lässt, und machen Sie ihn zur ersten Sache, die Sie gegen ein lokales Modell testen.
PAZ Kaffi · interdisziplinäre Redaktionsarbeit, geleitet von der PAZ Academy