Man kennt das: Man fragt eine KI etwas, bekommt eine überzeugend klingende Antwort – und stellt später fest, dass sie sich das Wesentliche offenbar einfach ausgedacht hat.
Normalerweise endet das mit einer falschen Restaurantempfehlung, einer erfundenen Quellenangabe oder der Erkenntnis, dass Goethe überraschenderweise nie einen Podcast hatte.
Diesmal ging es laut CNN allerdings um etwas mehr.
Ein fehlerhafter US-Geheimdienstbericht, der mit Hilfe künstlicher Intelligenz erstellt worden sein soll, hätte demnach beinahe dazu geführt, dass US-Streitkräfte mitten im Iran-Krieg ein chinesisches Schiff gestürmt hätten.
Der Grund: Die Ladung des Schiffes soll angeblich Komponenten für Atomwaffen enthalten haben.
Problem nur: Diese Information war laut CNN „komplett falsch“.
Mit anderen Worten: Die künstliche Intelligenz hatte offenbar nicht nur halluziniert – sie hatte beinahe internationale Außenpolitik betrieben.
„Sind wir sicher?“ – „Die KI klang sehr überzeugend“
Nach Angaben von CNN hatten sich US-Soldaten bereits darauf vorbereitet, das chinesische Schiff zu entern.
Aus einigen Kreisen hieß es sogar, Flugzeuge der US-Luftstreitkräfte seien bereits in der Luft gewesen.
Man war also offenbar schon deutlich über das Stadium hinaus, in dem jemand noch einmal gemütlich fragte:
„Hat eigentlich irgendwer überprüft, ob das stimmt?“
Zum Glück tat es schließlich jemand.
Beamte stellten dem Bericht zufolge fest, dass ein von einem Analysten verwendeter KI-Chatbot die Ladung des Schiffes falsch identifiziert hatte.
Der geplante Einsatz wurde daraufhin abgebrochen.
Die wohl wichtigste Funktion moderner Militärstrategie dürfte damit vorerst wiederentdeckt worden sein:
der menschliche Gegencheck.
Fast Krieg wegen einer KI-Halluzination
Was genau das chinesische Schiff tatsächlich geladen hatte, ist laut Bericht weiterhin unklar.
Vielleicht Maschinenbauteile.
Vielleicht Elektronik.
Vielleicht 40.000 Kaffeemaschinen.
Wir wissen es nicht.
Was wir offenbar wissen: Atomwaffenkomponenten waren es nach den CNN-Informationen nicht.
Damit stellt sich allerdings eine etwas unangenehme Frage:
Wenn eine KI bei einer normalen Suchanfrage Unsinn erzählt, ist das ärgerlich.
Wenn dieselbe Technik in Geheimdienstanalysen Unsinn erzählt und daraufhin Militärflugzeuge starten, bekommt der Begriff „Halluzination“ plötzlich eine vollkommen neue Qualität.
Künstliche Intelligenz – natürliche Eskalation
KI-Systeme haben eine bemerkenswerte Eigenschaft: Sie können Unsinn mit beeindruckendem Selbstbewusstsein formulieren.
Das ist im Büro manchmal sogar praktisch.
„Erstelle mir eine Marktanalyse.“
„Selbstverständlich.“
„Bist du sicher, dass diese Firma existiert?“
„Nach erneuter Prüfung leider nein.“
Bei militärischen Entscheidungen ist dieses Arbeitsprinzip jedoch möglicherweise optimierungsfähig.
Denn zwischen
„Hier könnte ein Fehler vorliegen“
und
„Startet die Flugzeuge“
sollte idealerweise noch irgendein Zwischenschritt liegen.
Zum Beispiel:
„Fragen wir noch jemanden.“
Die beruhigende Nachricht
Der Einsatz wurde nach CNN-Angaben schließlich gestoppt.
Das chinesische Schiff wurde offenbar nicht gestürmt.
Es kam wegen dieses Vorfalls zu keiner militärischen Konfrontation.
Und irgendwo dürfte anschließend eine Besprechung stattgefunden haben, deren Tagesordnung ungefähr so ausgesehen haben könnte:
- Was ist passiert?
- Warum ist das passiert?
- Wer hat den Chatbot benutzt?
- Warum durfte ein Chatbot fast einen Krieg anfangen?
- Müssen wir künftig unter KI-Antworten schreiben: „Kann Fehler enthalten“?
Das Pentagon und die US-Streitkräfte äußerten sich zunächst nicht zu dem von CNN geschilderten Vorfall.
Vielleicht suchen sie noch nach der passenden Antwort.
Hoffentlich diesmal ohne Chatbot.
Fazit
Künstliche Intelligenz kann Texte schreiben, Bilder erzeugen, Daten analysieren und wahrscheinlich irgendwann auch die Kaffeemaschine reparieren.
Aber vielleicht sollte für militärische Entscheidungen weiterhin eine einfache Regel gelten:
Bevor man ein chinesisches Schiff entert, weil ein Computer sagt, dort lägen Atomwaffenteile – noch einmal nachschauen.
Am besten zweimal.
Denn „Die KI war sich ziemlich sicher“ dürfte sich als Erklärung auf diplomatischem Parkett eher schlecht machen.
