Seit dem 2. August 2026 gelten in der Europäischen Union neue Transparenzpflichten für bestimmte Inhalte, die mithilfe Künstlicher Intelligenz erzeugt wurden. Grundlage ist die europäische KI-Verordnung, der sogenannte AI Act. Verbraucher sollen dadurch besser erkennen können, wann sie mit einer Maschine kommunizieren oder wann ihnen künstlich erzeugte beziehungsweise manipulierte Inhalte präsentiert werden.
Die neuen Vorgaben bedeuten allerdings nicht, dass künftig jeder Einsatz von KI gekennzeichnet werden muss. Entscheidend ist vielmehr, wie die KI eingesetzt wird und welches Täuschungspotenzial besteht.
Chatbots müssen sich als Maschine zu erkennen geben
Eine der wichtigsten Regelungen betrifft Chatbots und andere Systeme, die unmittelbar mit Menschen kommunizieren. Verbraucher müssen erkennen können, dass sie es mit einem KI-System und nicht mit einem Menschen zu tun haben.
Nach Angaben der Verbraucherzentrale Bayern muss dieser Hinweis bereits zu Beginn der ersten Interaktion erfolgen. Ein lediglich im Impressum, in Allgemeinen Geschäftsbedingungen oder an anderer schwer auffindbarer Stelle untergebrachter Hinweis reicht demnach nicht aus.
Das betrifft beispielsweise automatisierte Kundenchats oder entsprechende KI-Kommunikationssysteme.
Deepfakes und künstliche Stimmen müssen erkennbar sein
Besondere Bedeutung haben die Transparenzvorschriften bei künstlich erzeugten oder manipulierten Bildern, Videos und Audiodateien.
Werden reale Personen, Orte oder Ereignisse mithilfe von KI täuschend echt dargestellt oder verändert, muss für Verbraucher erkennbar sein, dass es sich um künstlich erzeugte beziehungsweise manipulierte Inhalte handelt.
Das betrifft auch geklonte Stimmen. Wird beispielsweise die Stimme einer realen Person künstlich nachgebildet und für einen Anruf oder eine Sprachnachricht eingesetzt, muss über den KI-Einsatz informiert werden.
Gerade angesichts zunehmender Betrugsversuche mit künstlich erzeugten Stimmen und Bildern soll die Kennzeichnung helfen, Manipulationen leichter zu erkennen.
Auch bestimmte KI-Texte fallen unter die Kennzeichnungspflicht
Für Medienunternehmen und Betreiber von Nachrichtenangeboten ist insbesondere die Regelung zu KI-generierten Texten von Bedeutung.
Nach der Verbraucherzentrale betrifft die Kennzeichnungspflicht unter anderem vollautomatisch erzeugte Texte, beispielsweise massenhaft produzierte Nachrichtenbeiträge, die ohne redaktionelle Überarbeitung veröffentlicht werden.
Das bedeutet jedoch nicht automatisch, dass jeder journalistische Text gekennzeichnet werden muss, bei dessen Erstellung KI verwendet wurde.
Der entscheidende Unterschied liegt in der redaktionellen beziehungsweise menschlichen Bearbeitung und Verantwortung für den veröffentlichten Inhalt. Wird KI lediglich als Werkzeug eingesetzt und der Beitrag anschließend journalistisch geprüft, bearbeitet und verantwortet, ist dies etwas anderes als eine vollständig automatisierte Veröffentlichung.
Gerade für Redaktionen ist diese Unterscheidung wichtig: Nicht allein die technische Verwendung eines KI-Systems entscheidet über eine Kennzeichnung, sondern auch darüber, in welcher Form der fertige Inhalt entstanden ist und veröffentlicht wird.
Nicht jeder Einsatz von KI muss offengelegt werden
Die Kennzeichnungspflichten haben Grenzen. Nach Angaben der Verbraucherzentrale müssen Anwendungen ohne entsprechendes Täuschungspotenzial nicht generell als KI gekennzeichnet werden.
Als Beispiele nennt sie Produktempfehlungen in Online-Shops, Navigationssysteme, Spamfilter oder die automatische Optimierung von Fotos auf Smartphones.
Auch bei einer rein privaten und nicht beruflichen Nutzung von KI besteht nach den Angaben der Verbraucherzentrale keine entsprechende Kennzeichnungspflicht.
Kennzeichnung soll Verbraucher vor Täuschung schützen
Hinter den neuen Vorschriften steht vor allem ein Ziel: Menschen sollen einschätzen können, ob das, was sie sehen, hören oder lesen, tatsächlich von einem Menschen stammt oder künstlich erzeugt beziehungsweise manipuliert wurde.
Eine Kennzeichnung allein schützt allerdings nicht vor Betrug. Kriminelle werden sich kaum freiwillig daran halten, betrügerische Deepfakes, gefälschte Stimmen oder andere manipulierte Inhalte ordnungsgemäß als KI-Produkte auszuweisen. Die Verbraucherzentrale rät deshalb weiterhin dazu, ungewöhnliche oder verdächtige Inhalte kritisch zu prüfen.
Verstöße gegen die Transparenzpflichten können nach den Angaben der Verbraucherzentrale bei der Bundesnetzagentur gemeldet werden.
Für journalistische Angebote ist vor allem eine Grenze entscheidend: Ein vollständig automatisiert erzeugter und ohne redaktionelle Kontrolle veröffentlichter Nachrichtenartikel ist anders zu beurteilen als ein Beitrag, bei dem KI zwar als Hilfsmittel eingesetzt wird, dessen Inhalt aber anschließend von einem Menschen geprüft, verändert und redaktionell verantwortet wird.
