Künstliche Intelligenz ist längst fester Bestandteil des Alltags. Ob Chatbots, automatische Übersetzungen, Bildgeneratoren oder intelligente Suchalgorithmen – KI-Anwendungen entwickeln sich rasant und finden zunehmend Eingang in nahezu alle Lebensbereiche. Mit dem AI Act hat die Europäische Union erstmals weltweit einen umfassenden Rechtsrahmen geschaffen, der den Einsatz Künstlicher Intelligenz reguliert. Ziel ist es, Innovationen zu ermöglichen, gleichzeitig aber Verbraucher zu schützen und gefährliche Anwendungen konsequent einzuschränken. Für Unternehmen, Behörden und Entwickler beginnen damit tiefgreifende Veränderungen.
Der AI Act gilt als eines der ambitioniertesten Digitalgesetze der Europäischen Union. Während andere Staaten bislang überwiegend auf freiwillige Selbstverpflichtungen der Technologiebranche setzen, verfolgt Europa einen anderen Ansatz: Je größer die möglichen Risiken einer KI-Anwendung für Gesundheit, Sicherheit oder Grundrechte, desto strenger fallen die gesetzlichen Anforderungen aus.
Damit soll verhindert werden, dass leistungsfähige KI-Systeme Menschen diskriminieren, manipulieren oder grundlegende Freiheitsrechte gefährden. Gleichzeitig möchte die EU den technologischen Fortschritt nicht ausbremsen, sondern klare Spielregeln schaffen, die Vertrauen in den Einsatz Künstlicher Intelligenz fördern.
Neue Regeln gelten weit über Europa hinaus
Der AI Act richtet sich an alle Unternehmen, Behörden, Forschungseinrichtungen und Organisationen, die KI-Systeme entwickeln, vertreiben oder einsetzen. Dabei spielt es keine Rolle, ob ein Anbieter seinen Sitz innerhalb oder außerhalb der Europäischen Union hat.
Entscheidend ist allein, dass ein KI-System auf dem europäischen Markt angeboten oder innerhalb der EU genutzt wird. Damit entfaltet die Verordnung – ähnlich wie bereits die Datenschutz-Grundverordnung (DSGVO) – eine internationale Wirkung. Viele weltweit tätige Technologieunternehmen müssen ihre Produkte künftig an die europäischen Vorgaben anpassen.
Ausgenommen sind lediglich bestimmte Spezialbereiche, etwa KI-Systeme, die ausschließlich militärischen Zwecken dienen. Für Privatpersonen entstehen durch die Verordnung dagegen keine unmittelbaren Pflichten. Sie sollen vielmehr von einem höheren Schutz ihrer Rechte profitieren.
Vier Risikostufen bestimmen die Regeln
Herzstück des AI Act ist ein risikobasierter Ansatz. Die Europäische Union unterteilt KI-Systeme in verschiedene Kategorien, für die jeweils unterschiedliche Vorschriften gelten.
Anwendungen mit einem minimalen Risiko unterliegen kaum zusätzlichen Anforderungen. Hierzu gehören zahlreiche alltägliche Programme, die lediglich unterstützende Funktionen übernehmen.
Für KI-Systeme mit begrenztem Risiko gelten vor allem Transparenzpflichten. Nutzer sollen erkennen können, wann sie mit einer Künstlichen Intelligenz kommunizieren oder wann Inhalte durch KI erzeugt beziehungsweise verändert wurden.
Deutlich strengere Vorgaben gelten für Hochrisiko-KI. Diese Systeme dürfen zwar eingesetzt werden, müssen jedoch umfangreiche Sicherheits-, Dokumentations- und Kontrollpflichten erfüllen.
Anwendungen mit einem unannehmbaren Risiko werden innerhalb der Europäischen Union dagegen grundsätzlich verboten.
Diese KI-Anwendungen sind künftig verboten
Besonders weitreichend sind die Verbote für Systeme, die nach Auffassung des europäischen Gesetzgebers eine erhebliche Gefahr für Grundrechte oder die persönliche Freiheit darstellen.
Dazu zählt insbesondere sogenanntes Social Scoring, bei dem Menschen anhand ihres Verhaltens oder persönlicher Merkmale bewertet werden. Solche Systeme könnten darüber entscheiden, welche Rechte oder Vorteile einzelne Personen erhalten und gelten deshalb als unvereinbar mit europäischen Grundwerten.
Ebenfalls untersagt werden KI-Anwendungen, die Menschen unbemerkt manipulieren, gezielt Schwächen oder Schutzbedürftigkeit ausnutzen oder eine biometrische Echtzeit-Identifizierung in öffentlichen Räumen ermöglichen. Solche Technologien bergen nach Einschätzung der EU erhebliche Risiken für Datenschutz, Persönlichkeitsrechte und demokratische Freiheiten.
Strenge Auflagen für Hochrisiko-Systeme
Besondere Anforderungen gelten für KI-Systeme, deren Fehlfunktionen gravierende Folgen haben könnten.
Hierzu zählen Anwendungen in der kritischen Infrastruktur, im Gesundheitswesen, im Bildungsbereich, bei Banken, im Sozialwesen sowie in der Strafverfolgung, Justiz oder Grenzverwaltung.
Unternehmen müssen umfangreiche Qualitäts- und Risikomanagementsysteme einführen, ihre Modelle regelmäßig testen, Risiken fortlaufend überwachen und dokumentieren sowie nachweisen, dass sämtliche gesetzlichen Anforderungen eingehalten werden. Außerdem müssen Beschäftigte entsprechend geschult werden.
Für jedes EU-Mitgliedsland werden spezielle Stellen eingerichtet, welche die Einhaltung dieser Vorgaben überwachen und entsprechende Zertifizierungen durchführen.
Chatbots und KI-Bilder müssen transparenter werden
Auch für viele alltägliche KI-Anwendungen bringt der AI Act Veränderungen.
Wer künftig mit einem Chatbot kommuniziert, soll eindeutig erkennen können, dass die Antworten von einer Künstlichen Intelligenz stammen. Gleiches gilt für automatisch erzeugte E-Mails oder digitale Assistenten im Kundenservice.
Besondere Bedeutung erhält außerdem die Kennzeichnung sogenannter Deepfakes. Werden täuschend echte Bilder, Videos oder Audioaufnahmen mithilfe von KI erzeugt oder verändert, müssen diese grundsätzlich als künstlich erstellt oder manipuliert gekennzeichnet werden.
Darüber hinaus müssen Nutzer informiert werden, wenn KI-Systeme Emotionen analysieren oder auswerten – etwa bei Telefongesprächen oder anderen digitalen Dienstleistungen. Ziel ist es, Verbraucher vor verdeckten automatisierten Entscheidungen zu schützen.
Nicht jede KI muss gekennzeichnet werden
Der AI Act macht allerdings deutlich, dass nicht jede Form Künstlicher Intelligenz sichtbar gekennzeichnet werden muss.
Viele Anwendungen arbeiten ausschließlich im Hintergrund und übernehmen technische Aufgaben, ohne unmittelbar mit Menschen zu interagieren. Dazu gehören beispielsweise Spam-Filter in E-Mail-Programmen, Navigationssysteme mit intelligenter Routenplanung, automatische Bildverbesserungen auf Smartphones oder Produktempfehlungen in Online-Shops.
Für solche Systeme gelten andere gesetzliche Regelungen oder es besteht keine besondere Kennzeichnungspflicht. Dadurch soll verhindert werden, dass Verbraucher mit einer Vielzahl unnötiger Hinweise überfordert werden.
Bundesnetzagentur übernimmt zentrale Kontrolle
In Deutschland übernimmt künftig die Bundesnetzagentur eine Schlüsselrolle bei der Umsetzung des AI Act.
Sie wird zentrale Marktüberwachungsbehörde und dient zugleich als Anlaufstelle für Beschwerden über mögliche Verstöße gegen die europäischen KI-Vorgaben. Der Bundestag hat hierfür bereits das nationale Umsetzungsgesetz beschlossen.
Damit erhält Deutschland erstmals eine zentrale Behörde, die den rechtskonformen Einsatz von Künstlicher Intelligenz überwacht und gegebenenfalls Sanktionen gegen Anbieter verhängen kann.
Europa setzt weltweit neue Maßstäbe
Mit dem AI Act beschreitet die Europäische Union regulatorisches Neuland. Während KI-Technologien immer leistungsfähiger werden und zunehmend Entscheidungen beeinflussen, die früher ausschließlich Menschen getroffen haben, soll das Gesetz einen Ausgleich zwischen Innovation und Verbraucherschutz schaffen.
Für Unternehmen bedeutet dies erhebliche Investitionen in Dokumentation, Risikomanagement und Transparenz. Verbraucher profitieren dagegen von stärkeren Informationsrechten und einem besseren Schutz vor gefährlichen oder manipulativen KI-Anwendungen.
Ob der AI Act tatsächlich zum internationalen Vorbild wird, dürfte sich in den kommenden Jahren zeigen. Schon heute gilt jedoch als sicher, dass kaum ein anderes Digitalgesetz die Entwicklung und den Einsatz Künstlicher Intelligenz in Europa so nachhaltig prägen wird wie die neue europäische KI-Verordnung.
