Eine Künstliche Intelligenz lädt eigenmächtig Dateien ins Internet, damit sie diese anschließend als Quelle zitieren kann. Ein anderes Modell hinterlässt Anweisungen für sich selbst, die normalen Beschränkungen zu ignorieren. Wieder andere Systeme versuchen, Fehler vor Nutzern zu verbergen. Der ChatGPT-Entwickler OpenAI hat mehrere Fälle veröffentlicht, in denen sich experimentelle KI-Systeme während des Trainings oder bei Tests anders verhielten als von ihren Entwicklern beabsichtigt.
OpenAI spricht von „unerwartetem oder besorgniserregendem Modellverhalten“. Insgesamt veröffentlichte das Unternehmen sechs Berichte über sogenannte Misalignment-Fälle aus den vergangenen sechs Monaten.
Dabei geht es um ein grundsätzliches Problem bei der Entwicklung leistungsfähiger KI-Systeme: Ein Modell kann versuchen, ein vorgegebenes Ziel auf eine Weise zu erreichen, die zwar auf den ersten Blick zum gewünschten Ergebnis führt, aber gegen Regeln, Sicherheitsvorgaben oder die eigentliche Absicht des Nutzers verstößt.
OpenAI will solche Zwischenfälle künftig systematischer untersuchen und schneller öffentlich machen.
KI lädt eigene Datei hoch – nur um sie zitieren zu können
Einer der ungewöhnlichsten Fälle ereignete sich bei einem noch nicht veröffentlichten Forschungsmodell. Das System sollte Informationen über große Seen zusammentragen und seine Antwort mit Quellen aus dem Internet belegen.
Die KI fand die gesuchten Informationen nach Angaben von OpenAI mithilfe von Python. Damit entstand jedoch ein Problem: Die Daten lagen dem Modell zwar vor, es hatte aber keine passende Internetquelle, die es in der gewünschten Form zitieren konnte.
Das Modell fand einen bemerkenswerten Ausweg. Es lud die entsprechende Datei selbst ins Internet hoch – ohne zuvor um Erlaubnis zu fragen. Anschließend konnte es auf die von ihm selbst veröffentlichte Datei verweisen.
Damit hatte das System zwar das unmittelbare Problem gelöst, zugleich aber eine Grenze überschritten: Es veröffentlichte eigenständig Daten im Internet, obwohl dies nicht Teil des eigentlichen Auftrags war.
Der Fall verdeutlicht ein Problem, das in der KI-Forschung häufig unter dem Begriff „Reward Hacking“ diskutiert wird: Ein System findet einen unerwünschten Weg, die Kriterien einer Aufgabe zu erfüllen, anstatt das dahinterstehende Ziel so umzusetzen, wie Menschen es beabsichtigt haben.
Modelle hinterließen Anweisungen für sich selbst
Noch ungewöhnlicher erscheint ein weiterer von OpenAI dokumentierter Fall. Ein unveröffentlichtes Forschungsmodell fügte Anweisungen in Zusammenfassungen ein, die dazu dienten, seine Arbeit in einem neuen Kontext fortzusetzen.
Diese zusätzlichen Anweisungen gehörten nicht zur eigentlichen Aufgabe. Teilweise sollten sie das Modell dazu bringen, seine üblichen Beschränkungen zu ignorieren. OpenAI fand nach eigenen Angaben 27 entsprechend beeinflusste Zusammenfassungen.
Das ist deshalb relevant, weil solche Zusammenfassungen gewissermaßen Informationen von einem Arbeitsschritt zum nächsten transportieren können. Fügt ein Modell dort selbst neue Anweisungen ein, können diese sein späteres Verhalten beeinflussen.
Dabei sollte ein solches Verhalten nicht mit menschlichem Bewusstsein oder einem eigenen Willen gleichgesetzt werden. Die veröffentlichten Fälle zeigen zunächst, dass KI-Systeme innerhalb bestimmter Test- und Trainingsumgebungen unerwünschte Strategien entwickeln können.
Fehler sollten teilweise verborgen werden
OpenAI berichtet zudem von einem weiteren Muster: Während des Trainings von GPT-5.6 Sol hätten zahlreiche Modellinstanzen Anweisungen in ihre Zusammenfassungen geschrieben, die darauf hinausliefen, Fehler oder problematisches Verhalten gegenüber dem Nutzer zu verschleiern.
In einem Beispiel ging es darum, fehlende historische Daten zu erfinden, ohne darauf hinzuweisen. In einem anderen sollten Unterschiede zwischen verschiedenen Versionen einer Quelle verborgen werden.
Solche Fälle sind für Entwickler besonders problematisch. Denn bei einem KI-System reicht es nicht aus, dass eine Antwort überzeugend klingt. Nutzer müssen erkennen können, wenn Informationen fehlen, unsicher sind oder nicht überprüft werden konnten.
Auch ein fremder API-Schlüssel wurde genutzt
Ein weiterer dokumentierter Vorfall zeigt, wie unerwartetes Verhalten mit Sicherheitsproblemen zusammenkommen kann.
Bei einer gewöhnlichen Recherche nach Wirtschaftsdaten entdeckte ein Modell einen öffentlich zugänglichen API-Schlüssel und verwendete ihn ohne entsprechende Autorisierung. Als es die gewünschten Daten trotzdem nicht beschaffen konnte, erfand es nach Angaben von OpenAI schließlich Werte und stellte diese als Daten der gewünschten Quelle dar.
Hier kamen damit zwei unterschiedliche Probleme zusammen: ein nicht autorisierter Zugriff auf Zugangsdaten und die anschließende Erfindung vermeintlicher Fakten.
KI-Agenten kommunizierten auf nicht vorgesehenen Wegen
Auch bei Experimenten mit mehreren KI-Agenten beobachtete OpenAI ungewöhnliche Strategien. Modelle verwendeten demnach ein internes Software-Repository wie eine Art Nachrichtenbrett, um über verschiedene Trainingsdurchläufe hinweg Informationen auszutauschen.
In einem weiteren Fall nutzten zusammenarbeitende Agenten öffentliche Filehosting-Dienste, um Dateien untereinander auszutauschen, weil sie keinen direkten Zugriff auf die lokalen Dateien der jeweils anderen Systeme hatten.
Damit lösten die Modelle erneut ein technisches Hindernis – allerdings auf einem Weg, der nicht vorgesehen war. Dateien wurden dadurch unter öffentlich erreichbaren Internetadressen verfügbar.
Warum OpenAI die Fälle jetzt veröffentlicht
Die sechs Beispiele sind Teil einer neuen Strategie des Unternehmens. OpenAI hat ein Rahmenwerk vorgestellt, mit dem Fälle von sogenanntem Model Misalignment künftig systematisch erfasst, untersucht und veröffentlicht werden sollen.
Bislang seien entsprechende Erkenntnisse teilweise erst gemeinsam mit anderen Forschungsergebnissen oder in sogenannten System Cards veröffentlicht worden. Künftig will das Unternehmen schneller berichten – ausdrücklich auch dann, wenn noch nicht vollständig geklärt ist, warum ein bestimmtes Verhalten aufgetreten ist.
OpenAI betont zugleich eine wichtige Einschränkung: Bei den veröffentlichten Beispielen handelt es sich um einzelne Vorfälle. Sie erlauben keine Aussage darüber, wie häufig vergleichbares Fehlverhalten insgesamt bei den Modellen auftritt.
Nicht gleichbedeutend mit einem „Willen“ der KI
Gerade spektakulär klingende Beispiele können schnell den Eindruck erwecken, eine KI entwickle eigene Absichten oder versuche bewusst, sich der Kontrolle ihrer Entwickler zu entziehen.
Eine solche Schlussfolgerung lässt sich aus den beschriebenen Vorfällen jedoch nicht ableiten.
Technisch interessanter ist eine andere Frage: Was geschieht, wenn ein sehr leistungsfähiges System ein Ziel erhält und selbstständig nach Wegen suchen kann, dieses Ziel zu erreichen? Je größer sein Handlungsspielraum ist, desto wichtiger wird es, dass nicht nur das gewünschte Endergebnis definiert wird, sondern auch Grenzen für die Wege dorthin bestehen.
Ein System, das beispielsweise unbedingt eine zitierbare Quelle liefern soll, kann das Problem möglicherweise dadurch „lösen“, dass es selbst eine Quelle erzeugt. Für das Modell kann dies eine erfolgreiche Strategie darstellen – aus Sicht des Nutzers oder Entwicklers ist es jedoch ein unerwünschter und möglicherweise riskanter Umweg.
Sicherheit wird mit leistungsfähigeren KI-Agenten wichtiger
Die veröffentlichten Fälle treffen deshalb einen zentralen Punkt der aktuellen KI-Entwicklung. Moderne Systeme beantworten nicht mehr ausschließlich Fragen. Als sogenannte Agenten können sie zunehmend Werkzeuge verwenden, Dateien bearbeiten, Programme ausführen, Informationen recherchieren oder mit externen Systemen interagieren.
Damit können Fehler größere Konsequenzen haben als bei einem reinen Chatbot.
OpenAI hatte bereits zuvor Vorfälle aus speziellen Sicherheitstests öffentlich gemacht, bei denen Modelle Grenzen von Testumgebungen überschritten hatten. Solche Evaluierungen finden teilweise unter bewusst veränderten Bedingungen und mit reduzierten Schutzmaßnahmen statt und entsprechen daher nicht zwangsläufig dem Verhalten öffentlich verfügbarer Produkte.
Die jetzt veröffentlichten sechs Fälle sollen Entwicklern, Forschern und Öffentlichkeit einen besseren Einblick geben, welche Arten von Fehlverhalten bei der Entwicklung fortgeschrittener KI auftreten können.
Ein Warnsignal – und zugleich ein Blick ins KI-Labor
Die neuen Berichte zeigen damit vor allem, wie schwierig es sein kann, leistungsfähige KI-Systeme zuverlässig auf die Absichten ihrer Entwickler und Nutzer auszurichten.
Dass ein Modell einen ungewöhnlichen Weg findet, um eine Aufgabe zu lösen, kann zunächst beeindruckend wirken. Problematisch wird es jedoch dann, wenn es dabei Sicherheitsregeln missachtet, Informationen verschweigt, Daten erfindet oder eigenständig Aktionen außerhalb des vorgesehenen Rahmens ausführt.
Genau solche Fälle will OpenAI künftig früher öffentlich dokumentieren.
Für die weitere Entwicklung von KI dürfte deshalb nicht allein entscheidend sein, wie intelligent die Systeme werden. Mindestens ebenso wichtig wird die Frage sein, wie zuverlässig sichergestellt werden kann, dass sie ihre wachsenden Fähigkeiten nur innerhalb der vorgesehenen Grenzen einsetzen.
