Eine neue Generation künstlicher Intelligenz sorgt für Unruhe unter Sicherheitsexperten – und für eine ungewöhnliche Entscheidung ihres Entwicklers. Das US-Unternehmen Anthropic hat sein bislang leistungsfähigstes Modell, „Claude Mythos“, nicht öffentlich zugänglich gemacht. Der Grund: Die Fähigkeiten dieser KI könnten selbst zur Gefahr werden.
Im Zentrum der Debatte steht die Frage, ob technologische Fortschritte inzwischen schneller voranschreiten als die Möglichkeiten, sie zu kontrollieren. Denn „Claude Mythos“ ist kein gewöhnliches KI-Modell. Es kann nicht nur Texte generieren oder Code schreiben – es ist offenbar in der Lage, Sicherheitslücken in Software auf einem bislang unerreichten Niveau aufzuspüren.
Die Präsidentin des Bundesamt für Sicherheit in der Informationstechnik, Claudia Plattner, verfolgt die Entwicklung mit wachsender Aufmerksamkeit. Nach Informationen aus Sicherheitskreisen steht die Behörde bereits im Austausch mit Anthropic. Zwar konnte das Modell bisher nicht unabhängig getestet werden, doch die Einblicke in seine Fähigkeiten reichen aus, um Alarm auszulösen.
Was „Claude Mythos“ besonders brisant macht, ist seine Vielseitigkeit. Anders als spezialisierte Hacker-Tools handelt es sich um ein allgemeines Sprachmodell – vergleichbar mit Systemen wie OpenAI-Produkten oder Lösungen von Google. Gerade diese Kombination aus breiter Anwendbarkeit und außergewöhnlicher Analysefähigkeit macht es so mächtig.
Nach Angaben von Anthropic hat das Modell Tausende bislang unbekannte Sicherheitslücken entdeckt – darunter Fehler in Software, die als besonders sicher gilt. So identifizierte die KI eine fast drei Jahrzehnte alte Schwachstelle im Betriebssystem OpenBSD. Auch in der weit verbreiteten Videobibliothek FFmpeg fand sie einen Bug, den automatisierte Testsysteme millionenfach übersehen hatten. Besonders bemerkenswert: Im Linux-Kernel erkannte die KI nicht nur einzelne Schwachstellen, sondern kombinierte mehrere Lücken eigenständig zu einem potenziellen Angriffsszenario.
Damit wird deutlich: Die Technologie hat das Potenzial, sowohl Verteidigungs- als auch Angriffsstrategien grundlegend zu verändern. Sicherheitsforscher könnten mit solchen Systemen schneller Schwachstellen finden und beheben. Gleichzeitig besteht jedoch die Gefahr, dass dieselben Fähigkeiten von Cyberkriminellen missbraucht werden.
Genau hier liegt das Dilemma. Indem Anthropic das Modell zurückhält, versucht das Unternehmen, einen unkontrollierten Einsatz zu verhindern. Doch diese Entscheidung wirft neue Fragen auf: Wer entscheidet, wer Zugang zu solch mächtigen Technologien erhält? Und welche Folgen hat es, wenn nur wenige Akteure über diese Fähigkeiten verfügen?
Für Europa könnte sich daraus ein strukturelles Problem ergeben. Während US-Unternehmen die Entwicklung führender KI-Systeme dominieren, haben europäische Behörden und Unternehmen oft nur eingeschränkten Zugriff auf diese Technologien. Das könnte zu einem Ungleichgewicht führen – insbesondere im Bereich der Cybersicherheit.
Gleichzeitig wächst der politische Druck, klare Regeln für den Umgang mit leistungsstarker KI zu schaffen. Die Diskussion um Regulierung, Transparenz und Kontrolle gewinnt an Dringlichkeit. Denn je leistungsfähiger die Systeme werden, desto größer wird auch ihr Einfluss auf kritische Infrastrukturen und gesellschaftliche Prozesse.
Die Entwicklung rund um „Claude Mythos“ zeigt exemplarisch, wie eng Fortschritt und Risiko inzwischen miteinander verknüpft sind. Eine KI, die Sicherheitslücken schneller findet als jeder Mensch, kann sowohl ein mächtiges Schutzinstrument als auch ein gefährliches Werkzeug sein.
Ob diese Technologie letztlich mehr Sicherheit oder mehr Unsicherheit bringt, hängt nicht nur von ihrer Leistungsfähigkeit ab – sondern vor allem davon, wie verantwortungsvoll mit ihr umgegangen wird.
