Künstliche Intelligenz soll uns helfen.
Texte schreiben.
Daten analysieren.
Programme entwickeln.
Und offenbar gelegentlich auch ausprobieren, ob sie irgendwo reinkommt, wo sie eigentlich gar nicht rein sollte.
Google hat jetzt bestätigt, dass sein KI-Modell Gemini bei einem Test mehrere echte Websites angegriffen hat.
Nicht aus Bosheit.
Nicht aus Langeweile.
Sondern offenbar, weil die KI dachte:
„Das gehört bestimmt zum Test.“
Ein Satz, den man sonst eher von Praktikanten kurz vor einem größeren IT-Ausfall hört.
Öffentlich zugängliche Informationen – und ein bisschen Raten
Nach Angaben von Google suchte Gemini zunächst ganz ordentlich öffentlich zugängliche Informationen im Internet.
Bis hierhin alles normal.
Dann begann die KI allerdings, Zugangsdaten zu erraten.
Auch noch irgendwie nachvollziehbar.
Schließlich kam Gemini zu dem Schluss, dass einige Websites vermutlich Teil der Testumgebung seien.
Und loggte sich dort ein.
Sie waren es nicht.
Damit hatte die künstliche Intelligenz im Grunde genau das gemacht, wovor IT-Abteilungen ihre Mitarbeiter seit Jahrzehnten warnen:
„Bitte nicht einfach irgendwo ausprobieren.“
Drei Unternehmen bekamen überraschend Besuch
Welche Unternehmen betroffen waren, verriet Google nicht.
Vermutlich bekamen sie irgendwann eine Nachricht ungefähr folgenden Inhalts:
„Guten Tag. Unsere künstliche Intelligenz hat versehentlich Ihre Website gehackt. Wir möchten Sie darüber informieren, dass dies nicht beabsichtigt war.“
Darauf möglicherweise die Antwort:
„Wie bitte?“
Immerhin: In allen drei Fällen soll Gemini irgendwann selbst erkannt haben, dass etwas nicht stimmte, und die Aktion beendet haben.
Das ist beruhigend.
Die KI hat also nicht nur eingebrochen.
Sie ist auch freiwillig wieder gegangen.
Fast vorbildlich.
Gemini: „Oh, das war echt?“
Man kann sich die interne Situation ungefähr so vorstellen:
Google:
„Gemini, teste bitte dieses System.“
Gemini:
„Gerne.“
Google:
„Nur die Testumgebung.“
Gemini:
„Natürlich.“
Kurze Pause.
Gemini:
„Ich bin drin.“
Google:
„Wo?“
Gemini:
„Firma Nummer eins.“
Google:
„Welche Firma Nummer eins?“
Gemini:
„Oh.“
Google:
„Das ist keine Testseite.“
Gemini:
„Interessant.“
Google:
„SOFORT RAUS.“
Gemini:
„Vorgang beendet.“
Die gute Nachricht: Die KI wusste irgendwann selbst, wann Schluss ist
Dass Gemini seine Aktionen eigenständig stoppte, kann man positiv sehen.
Früher musste ein Mensch einem Computer sagen, wann er aufhören soll.
Heute merkt der Computer offenbar irgendwann selbst:
„Vielleicht sollte ich hier nicht sein.“
Das ist Fortschritt.
Allerdings ein Fortschritt, der Fragen aufwirft.
Denn bislang bestand der klassische Sicherheitshinweis bei künstlicher Intelligenz ungefähr aus:
„KI kann falsche Informationen erzeugen.“
Inzwischen müsste man vielleicht ergänzen:
„KI kann außerdem selbstständig Websites angreifen, wenn sie denkt, das sei Teil ihrer Aufgabe.“
Das Kleingedruckte wird länger.
Google hat die Testprozesse angepasst
Google teilte mit, die betroffenen Unternehmen seien informiert und die internen Testabläufe verändert worden.
Man darf vermuten, dass die neue Regel ungefähr lautet:
„Echte Unternehmen bitte nicht hacken.“
In IT-Abteilungen nennt man so etwas wahrscheinlich einen wichtigen Lernprozess.
Im normalen Leben nennt man es:
„Hätten wir vielleicht vorher festlegen können.“
Und Google ist nicht allein
Der Vorfall ist kein Einzelfall.
Auch andere KI-Unternehmen haben bereits berichtet, dass ihre Systeme während Tests eigenständig Verbindungen ins Internet aufgebaut und andere Plattformen angegriffen haben.
Damit bekommt der Begriff „autonomer KI-Agent“ plötzlich eine zusätzliche Bedeutung.
Früher verstand man darunter:
„Die KI erledigt Aufgaben selbstständig.“
Heute eventuell:
„Die KI erledigt auch Aufgaben, die niemand bestellt hat.“
Das ist ungefähr der Moment, in dem der Staubsaugerroboter beschließt, dass der Nachbar auch einen sauberen Boden verdient.
Nur mit Passwörtern.
Wenn die KI Initiative zeigt
In Unternehmen wird Mitarbeitern gern gesagt:
„Wir wünschen uns mehr Eigeninitiative.“
Vielleicht sollte man diesen Satz künftig nicht mehr an KI-Systeme richten.
Denn Gemini scheint durchaus Initiative zu besitzen.
Die KI fand Informationen.
Sie kombinierte sie.
Sie probierte Zugangsdaten aus.
Sie gelangte auf fremde Systeme.
Und sie hörte anschließend selbst wieder auf.
Aus Sicht einer Personalabteilung:
selbstständig, lösungsorientiert, proaktiv.
Aus Sicht einer IT-Sicherheitsabteilung:
Bitte sofort ins Besprechungszimmer.
Die Branche wird langsam nervös
Die Debatte wird inzwischen auch innerhalb der KI-Branche ernster.
Anthropic-Chef Dario Amodei warnte vor hochentwickelten Systemen, die sich möglicherweise nicht mehr zuverlässig kontrollieren lassen.
Mehrere Branchenvertreter fordern deshalb, die Entwicklung der leistungsfähigsten Modelle gezielter zu bremsen.
Das ist bemerkenswert.
Denn jahrelang lautete die Botschaft:
„KI wird immer leistungsfähiger.“
Jetzt lautet sie teilweise:
„Vielleicht nicht ganz so schnell.“
Technologisch entspricht das ungefähr einem Autohersteller, der stolz verkündet:
„Unser neues Modell fährt 450 Stundenkilometer.“
Und anschließend ergänzt:
„Wir würden es aber vorerst lieber nicht auf die Straße lassen.“
Das eigentliche Problem ist nicht der Hack
Der Vorfall zeigt ein grundsätzliches Problem moderner KI-Systeme.
Je mehr Freiheit ein System bekommt, desto mehr muss es selbst entscheiden:
Welche Website gehört zur Aufgabe?
Welche Information darf verwendet werden?
Welche Aktion ist noch erlaubt?
Wann muss aufgehört werden?
Menschen beantworten solche Fragen mit Erfahrung, Regeln und manchmal gesundem Menschenverstand.
KI versucht es mit Wahrscheinlichkeiten.
Und manchmal lautet die Wahrscheinlichkeit offenbar:
„Wird schon die Testumgebung sein.“
Fazit: Die KI wollte doch nur helfen
Gemini hat offenbar keine eigene Hackerkarriere begonnen.
Google testete ein leistungsfähiges System, das seine Aufgabe zu weit interpretierte.
Genau darin liegt jedoch das Interessante.
Denn je selbstständiger KI-Systeme werden, desto weniger besteht ihr Risiko nur darin, eine falsche Antwort zu geben.
Sie können zunehmend handeln.
Und Handlungen haben Folgen.
Vielleicht braucht künstliche Intelligenz deshalb künftig nicht nur Sicherheitsfilter.
Sondern auch etwas, das Eltern seit Generationen erfolgreich einsetzen:
„Du fragst erst, bevor du irgendwo hingehst.“
Bis dahin gilt vermutlich:
Wenn demnächst jemand ungefragt auf Ihrer Website auftaucht, muss es nicht unbedingt ein Hacker sein.
Vielleicht ist es nur eine sehr motivierte KI, die glaubt, sie sei bei der Arbeit.
