Mit dem AI Act verfügt die Europäische Union erstmals über ein umfassendes Regelwerk für Künstliche Intelligenz. Seit dem 20. Juli 2026 ist die Verordnung vollständig anwendbar und legt verbindliche Vorgaben für die Entwicklung, den Vertrieb und den Einsatz von KI-Systemen fest. Ziel ist es, Innovationen zu fördern und gleichzeitig Verbraucher sowie ihre Grundrechte wirksam zu schützen.
Die Verordnung gilt für Unternehmen, Behörden, Forschungseinrichtungen und andere Anbieter, die KI-Systeme in der Europäischen Union entwickeln, vertreiben oder einsetzen. Dabei spielt es keine Rolle, ob der Anbieter seinen Sitz innerhalb oder außerhalb der EU hat. Entscheidend ist, dass die Anwendung auf dem europäischen Markt angeboten oder genutzt wird. Ausgenommen sind unter anderem KI-Systeme, die ausschließlich militärischen Zwecken dienen.
Kern des AI Acts ist ein risikobasierter Ansatz. Je größer die möglichen Auswirkungen einer KI auf Gesundheit, Sicherheit oder Grundrechte, desto strenger fallen die gesetzlichen Anforderungen aus. KI-Systeme werden dabei in vier Risikostufen eingeteilt: unannehmbares, hohes, begrenztes und minimales Risiko.
Besonders gefährliche Anwendungen mit einem unannehmbaren Risiko sind in der Europäischen Union grundsätzlich verboten. Dazu zählen unter anderem sogenannte Social-Scoring-Systeme, die Menschen nach ihrem Verhalten bewerten, Systeme zur manipulativen Beeinflussung oder zur Ausnutzung schutzbedürftiger Personen sowie bestimmte Formen der biometrischen Echtzeit-Identifizierung im öffentlichen Raum.
Für Hochrisiko-KI gelten umfangreiche Anforderungen. Betroffen sind beispielsweise Anwendungen in kritischen Infrastrukturen, im Bildungswesen, im Gesundheits- und Bankensektor, bei Sozialleistungen sowie in Justiz, Strafverfolgung und Grenzverwaltung. Anbieter müssen umfangreiche Risiko- und Qualitätsmanagementsysteme einführen, ihre Systeme regelmäßig überprüfen, dokumentieren und gegenüber den Behörden nachweisen, dass sämtliche gesetzlichen Vorgaben eingehalten werden.
Weniger strenge Regeln gelten für KI-Systeme mit begrenztem Risiko. Hier stehen Transparenzpflichten im Mittelpunkt. Nutzer müssen klar erkennen können, wenn sie mit einer Künstlichen Intelligenz kommunizieren. Ebenso müssen künstlich erzeugte oder manipulierte Inhalte wie Texte, Bilder, Videos oder sogenannte Deepfakes eindeutig gekennzeichnet werden. Auch der Einsatz von Emotionserkennung oder vergleichbaren Analyseverfahren muss offengelegt werden.
Nicht jede KI-Anwendung muss allerdings gekennzeichnet werden. Systeme, die lediglich technische Funktionen im Hintergrund übernehmen, etwa Spam-Erkennung, Navigationsberechnungen oder Bildoptimierungen, unterliegen grundsätzlich keiner Kennzeichnungspflicht.
Für Verbraucher bringt der AI Act vor allem mehr Transparenz und Schutz. Sie sollen künftig leichter erkennen können, wann Künstliche Intelligenz zum Einsatz kommt und welche Entscheidungen oder Inhalte durch KI beeinflusst oder erzeugt wurden. Gleichzeitig werden Unternehmen verpflichtet, Risiken frühzeitig zu erkennen und geeignete Schutzmaßnahmen umzusetzen.
Die Einhaltung der Vorschriften wird in Deutschland künftig zentral von der Bundesnetzagentur überwacht. Sie fungiert als Marktüberwachungs- und Beschwerdestelle bei möglichen Verstößen gegen die europäischen KI-Regeln. Unternehmen, die gegen die Verordnung verstoßen, müssen mit empfindlichen Sanktionen rechnen.
Mit dem AI Act schafft die Europäische Union damit erstmals einen einheitlichen Rechtsrahmen für Künstliche Intelligenz. Die Verordnung soll das Vertrauen in KI stärken, Innovationen ermöglichen und zugleich sicherstellen, dass neue Technologien verantwortungsvoll und im Einklang mit den Grundrechten eingesetzt werden.
