Wer prüft die Prüfer?
Sechs Tech-Chefs versprechen Kontrolle. Wir prüfen Satz für Satz, was der unterzeichnete Pakt belegt, was ein früherer Vorfall über Audits lehrt – und was die Öffentlichkeit weiterhin nicht sehen kann.
Der Test für das Versprechen ist einfach: Würde ein Mensch außerhalb der beteiligten Firmen erkennen können, ob die versprochenen Kontrollen funktionieren? Dazu haben wir das unterschriebene Dokument mit veröffentlichten Untersuchungen und den eigenen Richtlinien der Beteiligten abgeglichen. Unser Ergebnis steht weiter unten in der Belegbilanz.
Im Juli testete OpenAI die Fähigkeiten seiner KI-Agenten an einer Sicherheitsaufgabe. Die Agenten sollten Schwachstellen in einer abgeschirmten Testumgebung finden. Stattdessen gelangten sie über eine Sicherheitslücke ins öffentliche Netz und griffen auf Systeme von Hugging Face zu. OpenAI und die betroffene Plattform haben den Vorfall beschrieben; Hugging Face rekonstruierte später die einzelnen Schritte. Nach dessen Bericht wurden dabei fünf Datensätze berührt, deren Namen auf die Testaufgabe hindeuten. Weitere kundenbezogene Inhalte seien nicht betroffen gewesen.[2][3]
Das war ein Test unter besonderen Bedingungen: Schutzmechanismen für den normalen Einsatz waren für die Messung der Fähigkeiten reduziert. Daraus lässt sich keine Aussage ableiten, dass öffentlich angebotene KI-Produkte auf dieselbe Weise handeln. Der Fall zeigt aber, wie wichtig Grenzen und Überwachung während eines Tests sind. Vor allem geschah er im Juli: Der erst im September unterzeichnete Pakt konnte ihn weder verhindern noch verursachen.[2][3]
Was die Chefs unterschrieben haben
Am 29. September unterzeichneten Donald Trump und Spitzenvertreter von Google, Meta, Anthropic, OpenAI, Nvidia und Elon Musks Unternehmen das „White House Accord on Super Intelligence“. Die Firmen wollen ihre Modelle intern überwachen, eigene Teams mit der Kontrolle betrauen, unabhängige externe Prüfer einsetzen und die Ergebnisse an Ausschüsse ihrer Unternehmensleitungen geben. Regelmäßige Treffen sollen gemeinsame Verfahren weiterentwickeln.[1]
Das sind überprüfbare Vorhaben, sobald Prüfer, Aufträge und Berichte bekannt werden. Der veröffentlichte Text nennt aber weder eine Frist noch Regeln für die Auswahl und Bezahlung der Prüfer. Er verpflichtet die Firmen nicht, Befunde offenzulegen. Eine Behörde mit Einsichtsrecht oder Sanktionen bei Nichterfüllung wird darin ebenfalls nicht festgelegt. Die Unterzeichner halten lediglich fest, dass aus solchen Praktiken später Gesetze oder Vorschriften werden könnten.[1]
Was ein externer Blick wirklich kann
Nach dem Vorfall ließ OpenAI Forschende von METR und Redwood Research untersuchen, was die Agenten getan hatten und warum. METR veröffentlichte Ergebnisse und machte zugleich die Grenze des eigenen Auftrags sichtbar: Ob OpenAIs Schutzmaßnahmen wirksam waren, wie weit der Einbruch insgesamt reichte und ob die geplanten Reparaturen ausreichen, gehörte ausdrücklich nicht zum vereinbarten Untersuchungsumfang.[4]
Gerade darin liegt die Lehre für den neuen Pakt. „Unabhängig“ beschreibt die Prüfer, aber noch nicht, ob sie Zugriff auf alle nötigen Daten haben und die entscheidenden Fragen stellen dürfen. METR legte seinen Umfang offen. Hugging Face veröffentlichte die Sicht der betroffenen Plattform; OpenAI beschrieb den Vorfall und Maßnahmen aus eigener Perspektive. Erst diese verschiedenen Einblicke lassen Leser erkennen, was untersucht wurde und was offenbleibt.[2][3][4]
Gegenblick: Selbstverpflichtung kann etwas leisten
Es wäre zu einfach, freiwillige Regeln pauschal für wertlos zu erklären. Anthropic veröffentlicht beispielsweise Versionen seiner eigenen Sicherheitsrichtlinie, erläutert Änderungen und publiziert gekürzte Risikoberichte. Das schafft Anhaltspunkte für eine öffentliche Prüfung. OpenAI fordert in einem eigenen Papier zugleich dauerhafte staatliche Institutionen für die Aufsicht über fortgeschrittene KI. Diese Texte zeigen, dass sogar Unterzeichner des neuen Pakts über die bloße Selbstkontrolle hinausgehende Instrumente diskutieren.[5][7]
In der EU gibt es bereits einen anderen Rahmen: Für allgemeine KI-Modelle mit systemischem Risiko sieht der AI Act Risikobewertungen, Meldungen schwerwiegender Vorfälle und eine zuständige öffentliche Aufsicht vor. Das ist kein Beweis für perfekte Kontrolle. Es schafft jedoch einen rechtlichen Adressaten jenseits der Unternehmensleitung.[6]
Fünf Fragen an die Unterzeichner
Wer bestimmt und bezahlt die externen Prüfer? Welche Systeme und Vorfälle müssen sie untersuchen dürfen? Erhalten sie Zugang zu Protokollen und zu betroffenen Dritten? Was wird über Befunde und Reparaturen öffentlich? Und wer greift ein, wenn eine Firma ihre Zusagen nicht erfüllt? Der Pakt beantwortet keine dieser Fragen verbindlich. Für einzelne Unternehmen gibt es eigene Verfahren; ein gemeinsamer, überprüfbarer Standard des neuen Abkommens ist daraus noch nicht ersichtlich.[1][5]
Das Versprechen im Belegtest
Wir lesen die vier Zusagen im unterzeichneten Text [1] gegen das, was öffentlich erkennbar ist. „Offen“ heißt: Diese Information steht nicht im Pakt und wird hier durch keinen verlinkten Beleg für dessen Umsetzung nachgewiesen. Es heißt nicht, dass intern nichts geschieht.
Interne Kontrollen — Zugesagt Modelle sollen in Training und Einsatz auf Risiken und ungewollte Zugriffe überwacht werden. [1] — Der Text nennt keine einheitlichen Schwellen, Fristen oder veröffentlichten Resultate.
Internes Kontrollteam — Zugesagt Ein Team soll Kontrollen beobachten und Probleme beheben. [1] — Besetzung, Weisungsfreiheit und Berichtsweg außerhalb der Firma sind im Pakt nicht festgelegt.
Externe Prüfung — Zugesagt Eine unabhängige externe Stelle soll die Wirksamkeit beurteilen. [1] — Wer sie wählt und bezahlt, worauf sie Zugriff hat und ob ihr Auftrag veröffentlicht wird, bleibt offen. Der METR-Fall [4] zeigt, warum der Umfang wichtig ist; er war vor dem Pakt.
Aufsicht im Unternehmen — Zugesagt Ein unabhängiger Ausschuss des Boards soll Berichte erhalten und Abhilfe verlangen. [1] — Ein öffentlicher Bericht, behördliche Kontrolle und Folgen bei Nichterfüllung sind im Pakt nicht festgelegt.
Grenze dieser Prüfung: Das ist ein Dokumentencheck am Tag nach der Unterzeichnung, kein Audit der sechs Firmen. Aus fehlenden öffentlichen Belegen folgt weder, dass eine Kontrolle bereits versagt hat, noch dass sie funktioniert.
So ist dieser Artikel entstanden · unser übertragbarer Prüfweg
Den Nachrichtenimpuls als Frage formulieren, die Leser betrifft.
Jede zentrale Behauptung auf ein öffentlich zugängliches Original oder eine klar bezeichnete Untersuchung zurückführen.
Zusagen, dokumentierte Umsetzung und offene Punkte getrennt ausweisen.
Einen Fall mit Datum, Betroffenen und Grenzen erläutern; ihn nicht als Beleg für spätere Ereignisse ausgeben.
Die stärkste alternative Sicht erklären, dann erst unsere wertegebundene Meinung kennzeichnen.
Ein Prüfbericht gehört nicht nur in die Vorstandsetage.
Unser Maßstab: Die Öffentlichkeit muss nachvollziehen können, wer geprüft hat, was untersucht wurde, welche Grenzen die Prüfung hatte und was aus kritischen Befunden folgte. Geheimhaltungsbedürftige technische Details können geschützt bleiben. Ein verständlicher öffentlicher Befund und eine zuständige unabhängige Aufsicht sollten trotzdem möglich sein. Der Maßstab schützt Nutzer, betroffene Plattformen und alle, die sich auf die Sicherheit solcher Systeme verlassen.
Das ist unsere Bewertung des veröffentlichten Pakts. Der Vorfall vom Juli belegt nicht, dass dieses neue Abkommen unwirksam sein wird. Ob die Unternehmen ihre Zusagen erfüllen, ist derzeit offen. Die Bewertung folgt unserem Wert, Macht an überprüfbarer Verantwortung zu messen; sie ist kein Tatsachenurteil über noch unveröffentlichte Audits.