Transparenz als regulatorisches Grundprinzip
Transparenz ist ein zentrales Leitprinzip der europäischen Digitalregulierung und nimmt im EU-Rechtsakt über Künstliche Intelligenz (EU AI Act) eine eigenständige Rolle ein. Die Verordnung geht davon aus, dass Personen erkennen können müssen, ob und in welcher Weise künstliche Intelligenz eingesetzt wird, insbesondere dann, wenn KI-Systeme unmittelbar mit Menschen interagieren oder Entscheidungen beeinflussen, die sie betreffen.
Im Unterschied zu den Governance- und Compliance-Pflichten für Hochrisiko-KI-Systeme gelten Transparenzpflichten horizontal für bestimmte Anwendungsfälle, unabhängig von der Risikoklassifizierung des Systems. Ihr Zweck besteht nicht in der Einschränkung des KI-Einsatzes, sondern in der Sicherstellung von Kenntnis, Nachvollziehbarkeit und informierter Interaktion.
Transparenz ist damit eng verknüpft mit den regulatorischen Zielen Autonomie, Verantwortlichkeit und Vertrauen im Umgang mit KI-Systemen.
Adressaten der Transparenzpflichten
Die Transparenzpflichten des EU AI Act richten sich – abhängig vom jeweiligen Anwendungsfall – an Anbieter und Betreiber von KI-Systemen.
- Anbieter sind in der Regel dafür verantwortlich, KI-Systeme so zu gestalten, dass Transparenz möglich ist, und die erforderlichen Informationen bereitzustellen.
- Betreiber haben sicherzustellen, dass die Transparenzpflichten im konkreten Einsatzkontext umgesetzt werden, insbesondere bei nutzerbezogenen Anwendungen.
Wie im gesamten Regelungssystem des EU AI Act folgt auch hier die Pflichtenverteilung einem funktionalen Ansatz, der an tatsächliche Kontrolle und Nutzung anknüpft und nicht an vertragliche Rollenbezeichnungen.
Zentrale Anwendungsfälle der Transparenzpflichten
Der EU AI Act benennt mehrere typisierte Einsatzszenarien, in denen Transparenzpflichten ausgelöst werden. Maßgeblich ist dabei nicht die technische Komplexität des Systems, sondern Art und Wirkung der Interaktion mit betroffenen Personen.
KI-Systeme mit direkter Interaktion mit natürlichen Personen (z. B. Chatbots)
KI-Systeme, die darauf ausgelegt sind, direkt mit Menschen zu interagieren, unterliegen einer Transparenzpflicht dahingehend, dass betroffene Personen darüber informiert werden müssen, dass sie mit einem KI-System interagieren, sofern dies nicht offensichtlich ist.
Dies betrifft insbesondere:
- Chatbots und dialogbasierte Systeme,
- virtuelle Assistenten,
- automatisierte Kundenkommunikationssysteme.
Ziel ist es, irreführende oder täuschende Interaktionen zu vermeiden und es den Nutzern zu ermöglichen, ihr Verhalten entsprechend anzupassen.
Emotionserkennungs- und biometrische Kategorisierungssysteme
Für KI-Systeme zur Emotionserkennung oder biometrischen Kategorisierung sieht der EU AI Act erweiterte Transparenzanforderungen vor.
Personen, die solchen Systemen ausgesetzt sind, müssen darüber informiert werden:
- dass eine KI-gestützte Analyse erfolgt, und
- welchem allgemeinen Zweck das System dient.
Diese Pflichten tragen der besonders eingriffsintensiven Natur biometrischer und affektiver Technologien Rechnung und dienen dem Schutz von Privatsphäre und Menschenwürde.
KI-generierte oder KI-manipulierte Inhalte
Der EU AI Act adressiert Transparenz auch im Zusammenhang mit KI-generierten oder KI-manipulierten Inhalten, etwa synthetischen Bildern, Audio- oder Videoinhalten.
Empfänger solcher Inhalte sollen nicht über deren Ursprung oder Authentizität getäuscht werden. Transparenzpflichten zielen darauf ab, Irreführung zu verhindern, vorbehaltlich eng begrenzter Ausnahmen.
Dieser Regelungsbereich steht im Zusammenhang mit übergeordneten regulatorischen Zielen zur Bekämpfung von Desinformation und Manipulation im digitalen Raum.
Verhältnis zu Transparenzpflichten nach der DSGVO
Die Transparenzpflichten des EU AI Act bestehen neben, nicht anstelle der Transparenzanforderungen der Datenschutz-Grundverordnung (DSGVO).
Beide Regelungsregime verfolgen verwandte, aber unterschiedliche Zielrichtungen:
- DSGVO-Transparenz betrifft die Verarbeitung personenbezogener Daten und verlangt Informationen über Zwecke, Rechtsgrundlagen und Betroffenenrechte.
- Transparenz nach dem EU AI Act bezieht sich auf den Einsatz von KI als solcher, unabhängig davon, ob personenbezogene Daten verarbeitet werden.
In der Praxis können KI-Systeme daher kumulativen Transparenzpflichten aus beiden Regelwerken unterliegen. Diese sind koordiniert umzusetzen, um Inkonsistenzen oder Informationsdefizite zu vermeiden.
Form und Zeitpunkt der Transparenzinformationen
Der EU AI Act schreibt kein einheitliches Format für Transparenzinformationen vor. Vielmehr müssen diese klar, verständlich und verhältnismäßig ausgestaltet sein.
Dabei sind unter anderem zu berücksichtigen:
- der Adressatenkreis,
- die Komplexität des KI-Systems,
- die möglichen Auswirkungen des KI-Einsatzes.
Die Information muss zu einem Zeitpunkt erfolgen, zu dem sie ihre Funktion erfüllen kann, regelmäßig also vor oder während der Interaktion mit dem KI-System.
Rechtsfolgen bei Verstößen
Die Nichtbeachtung der Transparenzpflichten stellt einen Verstoß gegen den EU AI Act dar und kann aufsichtsrechtliche Maßnahmen nach sich ziehen.
Mögliche Konsequenzen sind unter anderem:
- Anordnungen zur Herstellung der Compliance,
- Einschränkungen oder Untersagungen der Nutzung,
- verwaltungsrechtliche Sanktionen.
Auch wenn Transparenzpflichten im Vergleich zu Hochrisiko-Anforderungen weniger umfangreich erscheinen, können Verstöße erhebliche rechtliche und reputationsbezogene Risiken begründen.
Regulatorische Funktion der Transparenzpflichten
Transparenzpflichten erfüllen eine eigenständige regulatorische Schutzfunktion. Sie sollen Informationsasymmetrien zwischen KI-Anwendern und betroffenen Personen reduzieren und informierte Teilhabe an KI-gestützten Prozessenermöglichen.
Durch gezielte Offenlegungspflichten fördert der EU AI Act den verantwortungsvollen Einsatz von KI, ohne niedrig riskante Anwendungen unverhältnismäßig zu belasten.
Fazit
Die Transparenzpflichten nach EU-Recht stellen sicher, dass Personen in rechtlich und ethisch sensiblen Situationen über den Einsatz von KI informiert sind. Sie betreffen insbesondere interaktive Systeme wie Chatbots, biometrische Anwendungen sowie KI-generierte Inhalte und bestehen ergänzend zu den Transparenzanforderungen der DSGVO.
Auch wenn Transparenzpflichten den KI-Einsatz nicht untersagen, bilden sie einen wesentlichen Baustein der europäischen KI-Regulierung und tragen zur verantwortungsvollen und nachvollziehbaren Nutzung künstlicher Intelligenz bei.
Hinweis
Die auf dieser Seite bereitgestellten Informationen dienen ausschließlich allgemeinen Informationszwecken und stellen keine Rechtsberatung dar.