Gehen wir von einer ehrlichen Einsicht aus, die dem ganzen KI-für-AEC-Stack zugrunde liegt: Es gibt kein zuverlässiges Messinstrument für das, was diese Systeme tatsächlich tun. In der neuesten Episode von Quanta Magazines The Joy of Why trafen sich Steven Strogatz und Melanie Mitchell — Kognitionswissenschaftlerin und Informatikerin am Santa Fe Institute —, die argumentiert, dass grosse Sprachmodelle eine Form von «Fremdintelligenz» sind: trainiert auf menschliche Sprache, aber mit Mechanismen, die wir nicht angemessen untersuchen können. Mitchell trat 2021 erstmals in der Show auf, bevor ChatGPTs Ankunft im November 2022 das Feld über Nacht neu ordnete; sie kehrt zurück, um sechs Prinzipien für die Bewertung von Maschinenkognition als Wissenschaft statt Leaderboard darzulegen — mit experimentellen Methoden, die Psychologen bereits auf andere Fremdintelligenzformen anwenden: Babys, Hunde, Delfine.

Liest man das als Systemdiagramm, springt der Engpass ins Auge. Jedes Büro, das ein LLM in seine CAD-, Mengenermittlungs- oder Spezifikations-Workflows einbaut, vertraut auf eine Komponente, deren innerer Zustand nicht beobachtbar ist und deren Versagensmodus lautlos ist. Das ist keine Metapher. Es ist genau diese Art Abhängigkeit, die in jedem Demo gut aussieht und scheitert beim einen Input, den niemand geübt hat.

Mitchell greift auf die frühen 1900er Jahre zurück für eine Warnung: Clever Hans, das Pferd, das scheinbar rechnen konnte, indem es mit dem Huf klopfte, aber nur unbewusste Signale seines Trainers las. Das Pferd bestand den Benchmark. Es machte aber nicht das, was der Benchmark behauptete zu messen. Als ein Frontier-Modell kürzlich eines von Paul Erdős’ offenen Problemen löste — das unit distance problem, gelöst durch die Fusion zweier mathematischer Bereiche, die vorher nie kombiniert worden waren — nannte Strogatz das Kreativität. Mitchells schärferer Punkt: Das Modell war «auf alles trainiert», inklusive aller von Strogatz’ YouTube-Vorträgen, daher war die klare menschliche Unterscheidung zwischen in-distribution und out-of-distribution nicht mehr messbar. Man kann nicht sagen, dass ein System eine Fähigkeit transferiert hat, wenn man nicht sagen kann, was es nicht schon gesehen hat.

←JETZT: 2026: Wir setzen Modelle ein, die wir nicht auditieren können, gegen Benchmarks, denen wir nicht trauen — und nennen die Lücke «Leistung». →3012: Die Büros, die noch stehen, sind die, die protokolliert haben, wo das Modell geraten hat, nicht nur wo es recht hatte. Fulcrum: Ein Benchmark-Score misst den Test; nur ein Abhängigkeitsgraph misst das Risiko.

Für den AEC-Tisch ist das nicht abstrakt. Dein Gebäude ist der Out-of-Distribution-Fall. Die spezifische Liegenschaft, das spezifische Wettbewerb-Brief, die spezifische strukturelle Ausnahme, die dein Ingenieur gekennzeichnet hat — das ist genau der Input, der am wenigsten in einem Training-Corpus vertreten ist, und genau wo ein Clever-Hans-Modell eloquent, selbstsicher und falsch wird. Mike Frank an Stanford hat die Entwicklungspsychologie-Version zuerst vorgebracht: Analysiere, wie ein Kind aus wenigen Daten verallgemeinert, bevor du annimmst, dass eine auf alles trainierte Maschine überhaupt verallgemeinert hat. Dieser Vergleich ist nicht neu — Mitchell bemerkt, dass Psychologen fremde Intelligenz auf diese Weise seit mindestens 100 Jahren untersuchen. PAZ hat diesen Faden seit Anfang markiert — der eigene Kanon des Felds, Artificial Intelligence: A Modern Approach, definiert Intelligenz als Suche, Planung und probabilistisches Denken, ein viel breiterer Rahmen als «das LLM klang richtig».

Atelier: Das Büro, das KI dieses Quartal einführt, steht vor einer Governance-Frage, die als Produktivitätsfrage verkleidet ist — du kannst nicht überwachen, was du nicht beim Versagen siehst. Der Montagsschritt: Wähle eine Live-Aufgabe, bei der du bereits ein LLM einsetzt (Spezifikations-Entwurf, Compliance-Abfrage, ein Grasshopper-C#-Snippet) und ergänze den Workflow um einen zweizeiligen «Distribution-Check», der Anfragen kennzeichnet, die weit entfernt von Routine sind — gib diese an einen Menschen weiter, bevor sie eine Zeichnung berühren.

Hack: Messe, wie weit dein Prompt davon entfernt ist, was das Modell tatsächlich gesehen hat. Vertraue nicht auf ein einzelnes selbstsicheres Ergebnis — miss stattdessen den Abstand deiner Abfrage von deinem eigenen Corpus bewährter, In-Distribution-Prompts: den Anteil der Embedding-Dimensionen, die innerhalb von zwei Standardabweichungen deines Training-Mittels liegen. Ein niedriger Anteil ist dein Clever-Hans-Alarm: Das Modell ist über seine Trainingsevidenz hinaus, und die Antwort braucht Augen.

import numpy as np
def in_distribution(query_vec, corpus_mean, corpus_std, k=2.0):
    z = np.abs(query_vec - corpus_mean) / corpus_std
    return float((z < k).mean())  # share of dims within k-sigma of training

Nutze diesen Anteil als Schwellenwert und ergänze die unmessbare Black Box um Routing: zuverlässige In-Distribution-Durchläufe laufen unbeaufsichtigt, alles andere geht zu einer Person. Das ist die ganze Disziplin — nicht weniger Vertrauen in die Maschine, sondern zu wissen, welche ihrer Antworten du wirklich vertraust. Zeichne diese Routing-Linie in deinen Workflow, bevor das Modell sie für dich zeichnet.

Quelle: quantamagazine.org