Kalifornien hat mit einem wegweisenden Schritt Geschichte geschrieben: Als erster US-Bundesstaat reguliert er den Einsatz von künstlicher Intelligenz in Chatbots. Gouverneur Gavin Newsom unterzeichnete am Montag das erste umfassende Gesetzespaket zur Kontrolle und Sicherheit KI-basierter Kommunikationssysteme. Damit reagiert der Bundesstaat auf wachsende Sorgen über die Auswirkungen von KI auf Gesellschaft, Datenschutz und psychische Gesundheit.
Das Gesetz verpflichtet Betreiber von Chatbots künftig zu mehr Transparenz, Sicherheit und Verantwortung. Zu den zentralen Punkten zählen:
-
Kennzeichnungspflicht: Nutzer müssen regelmäßig und deutlich darauf hingewiesen werden, dass sie mit einer KI und nicht mit einem Menschen interagieren.
-
Altersüberprüfung: Anbieter müssen sicherstellen, dass Minderjährige geschützt sind und Inhalte altersgerecht gefiltert werden.
-
Suizidprävention: Chatbots müssen in der Lage sein, Anzeichen einer psychischen Krise zu erkennen und Betroffene automatisch auf Hilfsangebote oder Krisendienste zu verweisen.
-
Datenschutzauflagen: Die Speicherung und Verarbeitung sensibler Nutzerdaten unterliegt künftig strengeren Richtlinien.
Gouverneur Newsom betonte, dass Kalifornien als globaler Technologiestandort eine besondere Verantwortung trage. „Wir dürfen den Menschen nicht in der Illusion lassen, dass Maschinen Empathie empfinden. Künstliche Intelligenz kann unterstützen – aber sie darf nie menschliche Verantwortung ersetzen“, sagte er bei der Unterzeichnung.
Die Reaktionen auf das Gesetz fallen gemischt aus. Befürworter sehen in der neuen Regelung einen wichtigen Schritt zum Schutz der Nutzer und loben Kalifornien für seine Pionierrolle. „Dies ist ein Meilenstein für die digitale Ethik“, erklärte die Bürgerrechtsorganisation Center for Humane Technology. Das Gesetz schaffe dringend notwendige Leitplanken für den Umgang mit Systemen, die immer menschenähnlicher kommunizieren.
Kritiker aus der Tech-Branche warnen dagegen vor bürokratischen Hürden und Innovationshemmnissen. Kleinere Start-ups könnten die technischen Anforderungen zur Altersverifikation und Krisenerkennung kaum erfüllen. Vertreter der Industrie fordern stattdessen ein einheitliches US-weites Regelwerk, um Wettbewerbsverzerrungen zu vermeiden. Das Weiße Haus hatte Kalifornien zuvor aufgefordert, die nationale Abstimmung im Rahmen eines geplanten Bundesgesetzes abzuwarten – doch Newsom lehnte ab.
Mit dem kalifornischen Modell zeichnet sich ein neuer Kurs in der US-Technologiepolitik ab. Während Europa mit dem AI Act der EU bereits einheitliche Regeln geschaffen hat, gilt Kalifornien nun als amerikanischer Vorreiter für verantwortliche KI-Governance. Experten erwarten, dass weitere Bundesstaaten – darunter New York und Washington – ähnliche Gesetze vorbereiten werden.
Für die großen Tech-Unternehmen im Silicon Valley, darunter Google, Meta und OpenAI, bedeutet das neue Gesetz eine Anpassung ihrer KI-Strategien. Viele arbeiten bereits an neuen Sicherheitsfunktionen, um den gesetzlichen Anforderungen gerecht zu werden.
Langfristig könnte Kalifornien mit seinem Vorstoß nicht nur die nationale, sondern auch die internationale KI-Debatte prägen. Denn die entscheidende Frage lautet: Wie weit darf künstliche Intelligenz gehen, bevor sie menschliche Grenzen überschreitet?
Kalifornien hat darauf nun eine erste, klare Antwort gegeben.
