OpenAI, der renommierte Entwickler des ChatGPT, hat eine wegweisende Sicherheitsstrategie für seine hochentwickelten Künstliche Intelligenz (KI)-Modelle vorgestellt. Dieses innovative Konzept, das gestern in einem umfassenden Dokument veröffentlicht wurde, zielt darauf ab, potenzielle Risiken der KI-Technologie umfassend zu bewerten und zu steuern. Im Zentrum dieses Ansatzes steht eine detaillierte Risikobewertung in vier Schlüsselkategorien: Cybersicherheit, Bedrohungen im Bereich nuklearer, chemischer, biologischer und radiologischer Natur, die Überzeugungskraft sowie die Autonomie der KI-Modelle.
Entscheidend in diesem Konzept ist die Einteilung der KI-Risiken in vier klar definierte Stufen: von „niedrig“ bis „kritisch“. Besondere Aufmerksamkeit erregt dabei die Kategorie der Autonomie, in der ein KI-Modell, das eigenständig Forschung betreibt und somit einen unkontrollierten Zyklus der Selbstoptimierung auslösen könnte, als Beispiel für ein kritisches Risiko genannt wird. Dieses Szenario, oft als „Intelligenzexplosion“ bezeichnet, verdeutlicht das potenzielle Ausmaß der Risiken, die von fortschrittlichen KI-Systemen ausgehen können.
Laut OpenAI soll diese Risikobewertung sowohl vor als auch nach der Implementierung von Sicherheitsmaßnahmen erfolgen, um ein umfassendes Verständnis für das Risikopotenzial zu gewährleisten. Das Gesamtrisiko eines KI-Modells wird dabei nach dem höchsten Einzelrisiko in den verschiedenen Kategorien bestimmt.
Die Sicherheitsrichtlinien von OpenAI, die in enger Partnerschaft mit Microsoft entwickelt wurden, legen fest, dass nur solche KI-Modelle in Betrieb genommen werden dürfen, deren Risiko nach Einbau entsprechender Sicherheitsvorkehrungen maximal die Stufe „mittel“ erreicht. Weiterhin dürfen nur solche Modelle weiterentwickelt werden, bei denen kein Risiko als „kritisch“ eingestuft wurde.
Ein wesentlicher Bestandteil dieser Sicherheitsstrategie sind zudem spezialisierte Überwachungs- und Beratungsgruppen. Diese Gremien haben das Recht, Entscheidungen der Unternehmensführung zu überprüfen und gegebenenfalls zu revidieren, was eine zusätzliche Ebene der Sicherheitskontrolle darstellt. Dies unterstreicht das Bestreben von OpenAI, die Entwicklung und den Einsatz von KI-Technologie verantwortungsbewusst und sicher zu gestalten.
