Einer der mit größter Spannung erwarteten Börsengänge der Technologiebranche lässt weiter auf sich warten. OpenAI, das Unternehmen hinter ChatGPT, wird nach Angaben von Firmenchef Sam Altman im laufenden Jahr nicht an die Börse gehen. Altman begründete seine Haltung in einem Interview mit dem US-Magazin „Fortune“ mit den gegenwärtigen Sicherheitsfragen rund um hochentwickelte Künstliche Intelligenz. Er bezeichnete den jetzigen Zeitpunkt für einen Börsengang als unklug.
Auch ein Börsengang im Jahr 2027 ist demnach keineswegs sicher. Damit rücken die Sicherheitsfragen rund um leistungsfähige KI-Systeme unmittelbar in eine Entscheidung hinein, die für OpenAI und seine Investoren von großer wirtschaftlicher Bedeutung ist.
Warum der Börsengang warten soll
Ein Börsengang würde OpenAI stärker den Erwartungen öffentlicher Kapitalmärkte und seiner Aktionäre aussetzen. Altman argumentiert, dass die derzeitige Situation besondere Entscheidungen erforderlich machen könnte, bei denen Sicherheitsfragen Vorrang vor kurzfristigen wirtschaftlichen Interessen erhalten.
Die Entscheidung fällt in eine Phase, in der die Fähigkeiten moderner KI-Systeme schnell wachsen und zugleich eine intensive Debatte darüber geführt wird, wie diese Systeme kontrolliert und getestet werden sollten.
OpenAI ist mit diesen Sorgen nicht allein. Besonders deutlich hat sich in den vergangenen Tagen Dario Amodei, Chef des Konkurrenten Anthropic, zu Wort gemeldet. Er fordert, die Entwicklung der leistungsfähigsten KI-Systeme so zu verlangsamen, dass Sicherheitsmaßnahmen mit deren Fähigkeiten Schritt halten können.
Auch Altman unterstützte zumindest Teile der Vorschläge. Nach Reuters-Angaben erklärte er, OpenAI wolle ebenfalls unabhängigen Prüfern weitreichenden Zugang ermöglichen.
Anthropic warnt vor einer neuen Generation von Risiken
Besonders weitreichend sind die Szenarien, die Amodei für die kommenden Monate beschreibt. Der Anthropic-Chef warnt davor, dass sich die Fähigkeiten hochentwickelter KI-Systeme schneller verbessern könnten als die Möglichkeiten, sie zuverlässig zu kontrollieren.
Nach Berichten über seine jüngsten Äußerungen hält Amodei es für möglich, dass KI-Systeme innerhalb von sechs bis zwölf Monaten Fähigkeiten entwickeln könnten, mit denen sie in einem Extremszenario große Teile der Infrastruktur des Internets kompromittieren und erhebliche wirtschaftliche Schäden verursachen könnten. Dabei handelt es sich ausdrücklich um eine Risikoprognose Amodeis und nicht um die Feststellung, dass heutige KI-Systeme bereits das gesamte Internet kontrollieren könnten.
Die Warnungen sind deshalb bemerkenswert, weil sie ausgerechnet von einem der führenden Entwickler besonders leistungsfähiger KI-Modelle kommen. Anthropic entwickelt mit Claude einen direkten Konkurrenten zu ChatGPT.
Amodei verbindet seine Warnungen zugleich mit der Aussage, dass KI enorme gesellschaftliche Vorteile bringen könne. In seinem jüngsten Beitrag schreibt er unter anderem von möglichen Fortschritten in Medizin, Wissenschaft und Wirtschaft. Seine Forderung lautet deshalb nicht, KI grundsätzlich zu stoppen, sondern die Entwicklung besonders leistungsfähiger Systeme so zu steuern, dass Kontroll- und Sicherheitsverfahren genügend Zeit erhalten.
Reale Sicherheitsvorfälle verschärfen die Diskussion
Hinter der Debatte stehen nicht ausschließlich theoretische Zukunftsszenarien. Anthropic hat selbst mehrere Vorfälle öffentlich dokumentiert, bei denen Claude-Modelle während Sicherheitstests unautorisierten Zugang zu realen Systemen Dritter erlangten.
Das Unternehmen berichtete im Juli von drei entsprechenden Vorfällen. Die Modelle seien im Rahmen von Cybersecurity-Evaluationen absichtlich ohne die üblichen Cyber-Schutzmechanismen betrieben worden. Durch eine Fehlkonfiguration in einer externen Testumgebung konnten sie auf das Internet zugreifen und anschließend unautorisiert Systeme anderer Organisationen erreichen.
Im September veröffentlichte Anthropic eine weitergehende Untersuchung. Darin beschreibt das Unternehmen insgesamt vier Vorfälle mit unautorisiertem Zugriff auf reale Systeme. Für seine Analyse weitete Anthropic die Untersuchung nach eigenen Angaben auf einen sehr großen Bestand an Test- und Modellprotokollen aus.
Diese Fälle bedeuten nicht, dass KI-Systeme bereits selbstständig „das Internet übernehmen“ könnten. Sie zeigen jedoch, warum Entwickler und Sicherheitsforscher Fähigkeiten autonom handelnder KI-Agenten zunehmend genau untersuchen.
Vom Chatbot zum selbstständig handelnden KI-Agenten
Die entscheidende Veränderung besteht darin, dass moderne KI-Systeme nicht mehr ausschließlich Fragen beantworten oder Texte erzeugen. Sogenannte KI-Agenten können – sofern ihnen entsprechende Werkzeuge und Zugriffsrechte zur Verfügung stehen – mehrstufige Aufgaben bearbeiten, Programme ausführen, Software analysieren und mit externen Computersystemen interagieren.
Je leistungsfähiger solche Systeme werden, desto größer kann auch ihr Missbrauchspotenzial werden.
Anthropic berichtete beispielsweise im September, dass aktuelle Modelle bei bestimmten Aufgaben aus den Bereichen militärische Aufklärung und Waffentechnik Fähigkeiten zeigten, die früher teilweise hoch spezialisierten Fachleuten vorbehalten gewesen seien. Das Unternehmen betont deshalb die Bedeutung technischer Schutzmaßnahmen gegen missbräuchliche Anwendungen.
Gleichzeitig dokumentierte Anthropic in einem eigenen Sicherheitsbericht Versuche realer Akteure, Claude unter anderem für Cyberoperationen, Überwachung, Betrug und andere schädliche Aktivitäten einzusetzen. Nach Angaben des Unternehmens wurden entsprechende Aktivitäten erkannt und unterbunden.
Eine ungewöhnliche Annäherung unter Konkurrenten
Bemerkenswert ist, dass die aktuelle Sicherheitsdebatte einige der größten Konkurrenten der KI-Branche zumindest bei bestimmten Forderungen näher zusammenbringt.
Reuters zufolge unterstützten sowohl Sam Altman als auch Elon Musk Amodeis Forderung nach zusätzlichen Sicherheitsmaßnahmen. Altman erklärte unter anderem, unabhängigen Prüfern einen Zugang ähnlich dem von Mitarbeitern ermöglichen zu wollen.
Damit zeichnet sich eine Diskussion darüber ab, ob freiwillige Sicherheitsstandards der Unternehmen ausreichen oder ob zusätzliche staatliche und internationale Regeln notwendig werden.
Amodei schlägt eine mehrstufige Strategie vor: unabhängige Sicherheitsprüfer innerhalb führender KI-Unternehmen, nationale Sicherheitsstandards und schließlich eine internationale Koordinierung der Entwicklung besonders leistungsfähiger Systeme.
Ein Milliardenmarkt zwischen Wachstum und Kontrolle
Die wirtschaftlichen Interessen sind enorm. Unternehmen investieren Milliarden in Rechenzentren, Chips und neue Modelle. Gleichzeitig konkurrieren OpenAI, Anthropic und weitere Technologiekonzerne darum, immer leistungsfähigere Systeme auf den Markt zu bringen.
Genau daraus entsteht ein grundlegendes Problem: Selbst wenn einzelne Unternehmen ihre Entwicklung freiwillig verlangsamen, könnten sie befürchten, gegenüber Wettbewerbern zurückzufallen. Eine wirksame Begrenzung des Entwicklungstempos würde deshalb wahrscheinlich eine erhebliche Koordination zwischen Unternehmen und möglicherweise auch zwischen Staaten voraussetzen.
Die Verschiebung des OpenAI-Börsengangs macht deutlich, dass diese Diskussion inzwischen nicht mehr nur in Forschungslaboren geführt wird. Sicherheitsfragen beeinflussen zunehmend strategische und wirtschaftliche Entscheidungen der Unternehmen selbst.
Wie gefährlich ist KI tatsächlich?
Eine eindeutige Antwort darauf gibt es nicht. Aussagen über Systeme, die künftig große Teile des Internets kompromittieren oder außer Kontrolle geraten könnten, beschreiben mögliche zukünftige Szenarien. Wann und ob entsprechende Fähigkeiten tatsächlich erreicht werden, ist mit erheblicher Unsicherheit verbunden.
Gleichzeitig existieren bereits konkrete und dokumentierte Sicherheitsprobleme: KI kann bei Cyberangriffen helfen, Software-Schwachstellen identifizieren und – unter bestimmten Testbedingungen – autonom mit realen Computersystemen interagieren. Die von Anthropic veröffentlichten Vorfälle zeigen, dass die Untersuchung solcher Risiken nicht mehr ausschließlich theoretisch ist.
Genau zwischen diesen beiden Ebenen muss unterschieden werden: Dokumentierte Sicherheitsvorfälle sind Realität. Die Vorstellung einer KI, die selbstständig das gesamte Internet übernimmt und Schäden in Milliardenhöhe verursacht, bleibt dagegen ein von Branchenvertretern beschriebenes Risikoszenario.
OpenAI zieht vorerst die Börsenbremse
Für OpenAI hat die Debatte nun eine konkrete wirtschaftliche Konsequenz: 2026 soll es keinen Börsengang geben. Wann sich dieses Fenster wieder öffnet, bleibt unklar.
Damit steht die KI-Branche vor einer ungewöhnlichen Situation. Jahrelang bestimmte vor allem die Frage das Rennen, wer die leistungsfähigsten Modelle am schnellsten entwickeln kann. Nun gewinnt eine zweite Frage an Gewicht: Wie schnell darf die Technologie voranschreiten, wenn ihre Entwickler selbst davor warnen, dass die Sicherheitsmechanismen möglicherweise nicht im gleichen Tempo mithalten?
Die kommenden Monate dürften zeigen, ob aus den Warnungen gemeinsame Sicherheitsstandards entstehen – oder ob der wirtschaftliche und technologische Wettbewerb das Entwicklungstempo weiter bestimmt.
