Die Europäische Union hat neue Symbole veröffentlicht, mit denen KI-generierte oder KI-manipulierte Inhalte gekennzeichnet werden können. Hintergrund ist das KI-Gesetz der Europäischen Union (EU AI Act). Die Symbole sollen Nutzern auf einen Blick zeigen, ob ein Bild, Video, Audio oder Text ganz oder teilweise mithilfe künstlicher Intelligenz erstellt wurde.
Wichtig ist jedoch: Die Verwendung der Symbole ist freiwillig – die Kennzeichnungspflicht selbst nicht.
Was ist bei der KI Kennzeichnung jetzt Pflicht?
Geregelt ist die Kennzeichnungspflicht in Artikel 50 des AI Act, dieser enthält Transparenzpflichten für bestimmte KI-Systeme. Ziel ist es, Täuschungen zu vermeiden und das Vertrauen der Öffentlichkeit in digitale Inhalte zu stärken.
Die Kennzeichnungspflicht betrifft insbesondere zwei Fallgruppen.
1. Deepfakes
Kennzeichnungspflichtig sind KI-generierte oder KI-manipulierte
- Bilder,
- Videos oder
- Audioaufnahmen,
wenn sie den Eindruck vermitteln, eine echte Person, einen realen Ort, ein tatsächliches Ereignis oder einen authentischen Gegenstand darzustellen.
Typische Beispiele sind:
- ein Video, in dem ein Politiker scheinbar eine Rede hält, die nie stattgefunden hat,
- ein künstlich erzeugtes Interview,
- ein ausgetauschtes Gesicht in einem Foto,
- eine künstlich erzeugte Stimme.
2. KI-generierte Texte zu Themen von öffentlichem Interesse
Auch Texte können kennzeichnungspflichtig sein.
Dies gilt allerdings nur, wenn
- der Text vollständig oder wesentlich durch KI erstellt wurde,
- er veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren,
- keine menschliche redaktionelle Kontrolle erfolgt ist und
- keine natürliche oder juristische Person die Verantwortung für den Inhalt übernimmt.
Gerade dieser letzte Punkt ist für Unternehmen und Medien besonders wichtig.
Wann besteht keine Kennzeichnungspflicht?
Der AI Act enthält mehrere wichtige Ausnahmen.
Redaktionell geprüfte Inhalte
Die wohl praxisrelevanteste Ausnahme betrifft Unternehmen, Kanzleien, Redaktionen und Agenturen.
Wird ein KI-generierter Text
- von einem Menschen geprüft,
- bearbeitet,
- freigegeben und
- übernimmt eine Person oder ein Unternehmen die redaktionelle Verantwortung,
besteht keine Offenlegungspflicht nach Artikel 50 AI Act.
Für viele Unternehmen bedeutet das:
Der Einsatz von ChatGPT oder anderer KI bei der Texterstellung ist rechtlich regelmäßig unproblematisch, solange der veröffentlichte Inhalt vor Veröffentlichung geprüft wird und jemand die redaktionelle Verantwortung übernimmt.
Künstlerische und satirische Inhalte
Keine strengen Kennzeichnungspflichten gelten außerdem für
- Kunst,
- Satire,
- Filme,
- Theater,
- Fiktion,
- kreative Werke.
Hier genügt eine angemessene Offenlegung, sofern sie den Genuss des Werkes nicht beeinträchtigt.
Die neuen EU-Symbole
Die EU stellt drei Hauptsymbole zur Verfügung.
KI-generierter Inhalt
Dieses Symbol kennzeichnet allgemein Inhalte, bei deren Erstellung KI eingesetzt wurde.
„KI-generiert“
Vollständig KI-generiert
Dieses Symbol ist vorgesehen, wenn der gesamte Inhalt ausschließlich durch KI entstanden ist.
Beispiele:
- vollständig erzeugte Bilder,
- KI-Musik,
- KI-Videos,
- automatisch erzeugte Nachrichtenzusammenfassungen.
„Mit KI erstellt“
Teilweise durch KI verändert
Dieses Symbol soll verwendet werden, wenn bereits vorhandene Inhalte mithilfe von KI verändert wurden.
Beispiele:
- Face Swap,
- KI-Retuschen,
- virtuelle Möblierung einer Immobilie,
- Austausch einzelner Objekte in einem Foto.
„KI-modifiziert“
Die Symbole sind freiwillig
Ein häufiger Irrtum besteht darin anzunehmen, dass künftig zwingend die EU-Symbole verwendet werden müssen.
Das ist nicht der Fall.
Der AI Act schreibt keine bestimmten Icons vor.
Die Symbole sind lediglich eine von der EU entwickelte Standardlösung, um Transparenz möglichst einheitlich umzusetzen.
Unternehmen können grundsätzlich auch andere Formen der Offenlegung verwenden, solange sie den gesetzlichen Anforderungen entsprechen.
Anforderungen an die Kennzeichnung
Wer die EU-Symbole verwendet, sollte die Vorgaben des von der EU veröffentlichten Verhaltenskodex beachten.
Danach sollen die Hinweise insbesondere
- gut sichtbar,
- unmittelbar beim Inhalt,
- ohne störende Überlagerungen,
- möglichst dauerhaft eingebettet,
- barrierefrei gestaltet
werden.
Empfohlen werden außerdem verständliche Textzusätze wie
- „KI-generiert“
- „Mit KI erstellt“
- „KI-modifiziert“.
Nach den Tests der EU werden die Symbole deutlich besser verstanden, wenn sie von einer kurzen Textbeschreibung begleitet werden.
Was bedeutet das für Unternehmen?
Für Unternehmen besteht derzeit regelmäßig kein Anlass zur Sorge.
Wer KI lediglich als Werkzeug nutzt und sämtliche Inhalte vor Veröffentlichung prüft und freigibt, fällt häufig unter die Ausnahme der menschlichen redaktionellen Kontrolle.
Anders kann dies bei Plattformen oder automatisierten Nachrichtendiensten sein, die Inhalte ohne jede menschliche Prüfung veröffentlichen.
Auch Betreiber von Anwendungen, mit denen Deepfakes erstellt werden, sollten ihre Transparenzpflichten sorgfältig prüfen.
Rechtsanwalt Hoesmann
Der AI Act verlangt keine pauschale Kennzeichnung sämtlicher KI-gestützter Inhalte. Entscheidend ist vielmehr, welche Art von Inhalt veröffentlicht wird und ob eine verantwortliche menschliche Prüfung stattgefunden hat. Unternehmen sollten deshalb interne Prozesse dokumentieren, aus denen hervorgeht, dass KI-generierte Texte vor der Veröffentlichung redaktionell kontrolliert und freigegeben werden. Dies kann im Streitfall von erheblicher Bedeutung sein.
Fazit
Mit den neuen EU-Symbolen schafft die Europäische Union einen einheitlichen Standard für die Kennzeichnung bestimmter KI-generierter Inhalte. Die Symbole selbst sind freiwillig, die Transparenzpflichten des AI Act hingegen verbindlich.
Besonders wichtig ist die Ausnahme für redaktionell geprüfte Texte: Wer KI als Hilfsmittel nutzt, den Inhalt jedoch eigenverantwortlich überprüft und veröffentlicht, muss regelmäßig keine Kennzeichnung nach Artikel 50 AI Act vornehmen.
FAQ
Müssen alle mit ChatGPT erstellten Texte gekennzeichnet werden?
Nein. Wurde der Text von einem Menschen redaktionell geprüft und übernimmt eine Person oder ein Unternehmen die Verantwortung für die Veröffentlichung, besteht regelmäßig keine Kennzeichnungspflicht nach Artikel 50 AI Act.
Sind die neuen EU-KI-Symbole verpflichtend?
Nein. Die Symbole sind freiwillig. Verpflichtend ist lediglich die Einhaltung der gesetzlichen Transparenzpflichten.
Wann muss ein Deepfake gekennzeichnet werden?
Wenn ein KI-generiertes oder manipuliertes Bild, Audio oder Video den Eindruck erweckt, eine reale Person, einen Ort oder ein Ereignis authentisch darzustellen, muss dies grundsätzlich offengelegt werden.
Gelten Ausnahmen für Kunst und Satire?
Ja. Für offensichtlich künstlerische, satirische oder fiktive Werke gelten erleichterte Transparenzanforderungen.
Google haftet für falsche KI-Antworten: Eines der ersten deutschen KI-Urteile mit Signalwirkung
KI-generierter Song und Urheberrecht: LG Frankfurt stärkt Schutz menschlicher Kreativität
