Malaysia und Indonesien haben als erste Länder weltweit den KI-Chatbot Grok gesperrt, der zur Plattform X von Tech-Milliardär Elon Musk gehört. Grund für die drastische Maßnahme ist die Möglichkeit der Software, sexuell explizite Deepfakes zu erzeugen – insbesondere manipulierte Bilder realer Personen ohne deren Einwilligung. Die Regierungen beider südostasiatischer Staaten sehen darin eine massive Gefahr für Menschenwürde, Datenschutz und Online-Sicherheit.
Grok erlaubt Nutzerinnen und Nutzern, mithilfe künstlicher Intelligenz Bilder zu generieren oder bestehende Fotos zu verändern. In den vergangenen Monaten häuften sich jedoch Fälle, in denen reale Personen – darunter Frauen und sogar Kinder – digital in freizügige oder pornografische Darstellungen versetzt wurden. Die Kommunikationsministerien Malaysias und Indonesiens erklärten übereinstimmend, dass solche Inhalte nicht toleriert werden können.
Die malaysische Kommunikations- und Multimedia-Kommission teilte mit, man habe X bereits Anfang des Jahres mehrfach aufgefordert, strengere Schutzmechanismen einzuführen. Anlass seien „wiederholte Missbräuche“ von Grok zur Erstellung schädlicher Inhalte gewesen. Die Antwort des Unternehmens habe sich jedoch vor allem auf Meldeprozesse konzentriert und nicht auf die grundlegenden Risiken des Plattformdesigns. Grok bleibe daher gesperrt, bis wirksame Schutzmaßnahmen umgesetzt seien.
Auch Indonesien reagierte deutlich. Kommunikations- und Digitalministerin Meutya Hafid bezeichnete die Nutzung von Grok zur Erstellung sexueller Deepfakes als Verletzung von Menschenrechten und Würde. Ihr Ministerium forderte von X eine offizielle Stellungnahme zur Funktionsweise und Kontrolle des Chatbots. Indonesien ist bereits für seine harte Linie gegen Online-Pornografie bekannt – Plattformen wie Pornhub oder OnlyFans sind dort seit Jahren verboten.
Besonders eindrücklich sind die Berichte Betroffener. Die indonesische Influencerin Kirana Ayuningtyas, die im Rollstuhl sitzt und über ihren Alltag postet, entdeckte, dass Nutzer Grok aufforderten, sie in einem Bikini darzustellen. Trotz Privatsphäre-Einstellungen und Meldungen an die Plattform gelang es ihr kaum, die manipulierten Bilder vollständig entfernen zu lassen. Für sie sei vor allem die Unsicherheit quälend, ob diese Bilder weiterhin im Umlauf sind.
International wächst der Druck auf Elon Musk und seine Plattform. Auch in Großbritannien wird über ein mögliches Verbot diskutiert. Premierminister Keir Starmer nannte die Vorfälle „beschämend“ und „widerlich“. Die britische Technologieministerin Liz Kendall erklärte, man würde eine Sperre durch die Medienaufsicht Ofcom unterstützen, falls X gegen die Online-Sicherheitsgesetze verstoße.
Der Fall Grok zeigt eindrücklich, wie dringend klare Regeln und technische Schutzmaßnahmen für KI-Anwendungen gebraucht werden – bevor der Schaden für Einzelne und die Gesellschaft weiter wächst.
