Ab dem 2. August gelten in Deutschland neue Transparenzpflichten für Inhalte, die mithilfe künstlicher Intelligenz erstellt wurden. Videos, Bilder, Tonaufnahmen und Texte, die maßgeblich von KI erzeugt wurden, müssen künftig entsprechend gekennzeichnet werden. Die Bundesregierung verspricht sich davon mehr Transparenz im Internet. Verbraucherschützer begrüßen die neuen Vorgaben, warnen jedoch zugleich vor falscher Sicherheit: Eine KI-Kennzeichnung ist kein Beweis für die Echtheit oder Wahrheit eines Inhalts.
Grundlage der neuen Regelungen ist die nationale Umsetzung der europäischen KI-Verordnung (AI Act), die am 29. Juli 2026 in Kraft getreten ist. Eine zentrale Rolle übernimmt dabei die Bundesnetzagentur, die als nationale Koordinierungsstelle für die Umsetzung der neuen Vorschriften fungiert.
KI-Inhalte sollen künftig erkennbar sein
Ziel der Kennzeichnungspflicht ist es, Verbrauchern mehr Orientierung im digitalen Alltag zu geben. Wer künftig im Internet auf ein Bild, ein Video, eine Sprachaufnahme oder einen Text stößt, soll leichter erkennen können, ob dieser überwiegend mithilfe künstlicher Intelligenz erstellt wurde.
Gerade in Zeiten immer leistungsfähigerer KI-Systeme wird es zunehmend schwieriger, echte von künstlich erzeugten Inhalten zu unterscheiden. Hochwertige Deepfakes und synthetische Stimmen wirken oft täuschend echt und lassen sich selbst von erfahrenen Nutzern kaum noch erkennen.
Schutz vor immer raffinierteren Täuschungen
Die neue Kennzeichnungspflicht soll insbesondere dort helfen, wo künstliche Intelligenz gezielt zur Manipulation eingesetzt werden kann. Dazu gehören etwa gefälschte Empfehlungen prominenter Persönlichkeiten für Finanzprodukte oder Kryptowährungen, erfundene Kundenbewertungen, künstlich erzeugte Stimmen sowie manipulierte Nachrichtenbilder.
Auch automatisch erstellte Werbevideos oder täuschend echte Videoanrufe, bei denen sich Kriminelle als Angehörige oder Vorgesetzte ausgeben, gewinnen nach Einschätzung von Sicherheitsbehörden zunehmend an Bedeutung.
Durch eine sichtbare Kennzeichnung sollen Nutzer solche Inhalte künftig kritischer einordnen können, bevor sie persönliche Daten preisgeben oder Geld überweisen.
Kein Wahrheitsstempel für Inhalte
So wichtig die neue Transparenzpflicht auch ist – sie hat klare Grenzen. Der Hinweis „KI-generiert“ bedeutet lediglich, dass ein Inhalt ganz oder überwiegend mit künstlicher Intelligenz erstellt wurde. Ob die darin enthaltenen Informationen richtig, falsch, irreführend oder sogar betrügerisch sind, lässt sich daraus nicht ableiten.
Umgekehrt gilt ebenfalls: Fehlt eine Kennzeichnung, bedeutet das keineswegs automatisch, dass ein Foto, Video oder Text authentisch ist. Kriminelle, die gezielt betrügen wollen, werden sich kaum freiwillig an gesetzliche Kennzeichnungspflichten halten.
Hinzu kommt, dass auch echte Aufnahmen manipuliert werden können – etwa durch irreführende Bildunterschriften, aus dem Zusammenhang gerissene Videos oder gekürzte Tonaufnahmen. Solche Inhalte können täuschen, obwohl sie nicht vollständig von einer KI erzeugt wurden.
Verbraucher müssen weiterhin genau hinschauen
Die neuen Vorschriften ersetzen deshalb nicht die eigene Vorsicht. Gerade bei Werbung, Anlageangeboten oder vermeintlichen Gewinnversprechen sollten Verbraucher weiterhin sorgfältig prüfen, wer tatsächlich hinter einem Angebot steht.
Wichtige Fragen bleiben auch künftig:
- Ist ein vollständiges Impressum vorhanden?
- Lässt sich der Anbieter eindeutig identifizieren?
- Werden Behauptungen auch von unabhängigen Quellen bestätigt?
- Wird emotionaler Druck aufgebaut oder zu einer schnellen Entscheidung gedrängt?
- Sollen persönliche Daten oder Geld möglichst sofort übermittelt werden?
Verbraucherschützer raten außerdem dazu, ungewöhnliche Behauptungen grundsätzlich über eine zweite vertrauenswürdige Quelle zu überprüfen.
Besondere Vorsicht bei KI-Stimmen
Ein besonderes Risiko sehen Experten in täuschend echt klingenden künstlichen Stimmen. Kriminelle können inzwischen mit wenig Ausgangsmaterial Stimmen von Angehörigen oder Bekannten nachbilden und damit Notlagen vortäuschen.
Erhält jemand einen angeblichen Hilferuf eines Familienmitglieds oder einen überraschenden Anruf eines vermeintlichen Vorgesetzten mit einer dringenden Zahlungsaufforderung, sollte das Gespräch beendet und die betreffende Person über eine bereits bekannte Telefonnummer zurückgerufen werden. So lässt sich schnell feststellen, ob tatsächlich ein Notfall vorliegt oder ob es sich um einen Betrugsversuch handelt.
Mehr Transparenz – aber keine Garantie
Mit der neuen Kennzeichnungspflicht reagiert der Gesetzgeber auf die rasante Verbreitung künstlich erzeugter Inhalte. Sie soll Verbrauchern helfen, KI-generierte Medien schneller zu erkennen und bewusster zu bewerten.
Ein Allheilmittel gegen Desinformation oder Betrug ist die Regelung jedoch nicht. Auch künftig bleiben Medienkompetenz, gesunder Zweifel und die sorgfältige Prüfung von Informationen die wirksamsten Mittel, um sich vor Manipulation und finanziellen Schäden zu schützen. Die neue Kennzeichnung schafft mehr Transparenz – ersetzt aber nicht den kritischen Blick der Nutzer.
