Ein ungewöhnlicher Rechtsstreit aus den USA zeigt, welche zusätzlichen Haftungsrisiken beim Einsatz generativer KI entstehen können. xAI, das Unternehmen hinter Grok im Eigentum von Elon Musk, verklagt einen Fotografen aus Arkansas, dem vorgeworfen wird, Fotografien minderjähriger Kundinnen mit Grok in sexualisierte Darstellungen umgewandelt zu haben.
Der Fotograf bestreitet die strafrechtlichen Vorwürfe. Eine rechtskräftige Entscheidung liegt bislang nicht vor.
xAI verlangt Freistellung von Ansprüchen
Nach einem Bericht von PetaPixel soll der Fotograf mehrere Grok-Konten angelegt und durch gezielte Eingaben versucht haben, die Sicherheitssysteme des Dienstes zu umgehen. xAI gibt an, die verdächtigen Aktivitäten erkannt und den US-Behörden gemeldet zu haben.
Inzwischen gehen Familien betroffener Minderjähriger auch gegen xAI vor. Sie werfen dem Unternehmen vor, keine ausreichenden Schutzmaßnahmen gegen den Missbrauch des Bildgenerators eingerichtet zu haben.
xAI beruft sich gegenüber dem Fotografen nun auf eine Freistellungsklausel in seinen Nutzungsbedingungen. Danach soll der Nutzer für Ansprüche, Schäden und Rechtsverteidigungskosten einstehen, die aus seinen Eingaben, der Nutzung der Ergebnisse oder einem Verstoß gegen die Vertragsbedingungen entstehen. Das Unternehmen verlangt unter anderem die Erstattung seiner Kosten aus den Verfahren der betroffenen Familien.
Auch in Deutschland drohen strafrechtliche Konsequenzen
Sexualisierte Darstellungen Minderjähriger sind auch nach deutschem Recht keineswegs ein bloßer Verstoß gegen Plattformbedingungen. Abhängig vom Alter der betroffenen Person und vom konkreten Inhalt können bereits die Herstellung, der Besitz, das Abrufen oder die Weitergabe KI-generierter Darstellungen nach § 184b StGB oder § 184c StGB strafbar sein. Das kann auch wirklichkeitsnahe, künstlich erzeugte Bilder betreffen.
Daneben kommen insbesondere bei rufschädigenden Manipulationen Strafbarkeit nach § 201a StGB sowie Unterlassungs-, Löschungs-, Schadensersatz- und Geldentschädigungsansprüche der Betroffenen in Betracht. Diese rechtlichen Folgen bestehen unabhängig davon, ob zugleich gegen die Nutzungsbedingungen des KI-Anbieters verstoßen wurde oder eine Freistellungsklausel wirksam ist.
Haftungsrisiken für Fotografen und Unternehmen
Der Fall ist weit über strafrechtlich relevante Darstellungen Minderjähriger hinaus bedeutsam. Er zeigt, dass Nutzer durch die Zustimmung zu den Nutzungsbedingungen eigene vertragliche Pflichten gegenüber dem KI-Anbieter übernehmen.
Verstoßen Nutzer von KI-Diensten etwa gegen Vorgaben zu Persönlichkeitsrechten, Urheberrechten, Datenschutz oder zulässigen Inhalten, können sie sich zusätzlichen Ansprüchen des Anbieters aussetzen. Dazu können – abhängig von der Wirksamkeit der jeweiligen Klauseln – auch Freistellungsansprüche und die Übernahme erheblicher Rechtsverteidigungskosten gehören. Dieses Klagerisiko kann somit auch bei anderen rechtswidrigen oder vertragswidrigen KI-Nutzungen bestehen, ohne dass es um strafbare Inhalte mit Minderjährigen geht.
Wer Kunden-, Model- oder Mitarbeiterfotos in einen KI-Dienst hochlädt, sollte daher vorab prüfen:
- Ist die Übermittlung der Aufnahmen an den Anbieter erlaubt?
- Deckt die Einwilligung auch eine KI-Bearbeitung ab?
- Nutzt der Anbieter die Bilder für eigene Zwecke oder zum Training?
- Wo und wie lange werden die Aufnahmen gespeichert?
- Welche Freistellungs- und Haftungsklauseln gelten?
Die aktuellen Nutzungsbedingungen von SpaceXAI verpflichten Nutzer grundsätzlich dazu, über alle notwendigen Rechte und Einwilligungen für hochgeladene Inhalte zu verfügen. Zugleich enthalten sie eine weitreichende Freistellungsklausel.
Für europäische Verbraucher ist diese Klausel nach den derzeitigen europäischen Sonderbedingungen zwar ausdrücklich ausgeschlossen. Beruflich handelnde Fotografen, Agenturen und Unternehmen gelten jedoch regelmäßig nicht als Verbraucher. Ob eine solche Klausel gegenüber deutschen Gewerbetreibenden im Einzelfall wirksam ist, hängt vom anwendbaren Recht und ihrer konkreten Ausgestaltung ab.
Praxis-Tipp
Kunden- oder Modelaufnahmen sollten nicht ungeprüft in öffentlich verfügbare KI-Systeme hochgeladen werden. Eine Zustimmung zur normalen Bildbearbeitung umfasst nicht automatisch die Übermittlung an einen externen KI-Anbieter oder weitreichende KI-Manipulationen.
Professionelle Anwender sollten deshalb sowohl die Einwilligungen der abgebildeten Personen als auch Datenschutz, Speicherung, Trainingsnutzung und Freistellungsklauseln des Anbieters prüfen.
Der US-Fall macht deutlich: Wer KI für professionelle Bildbearbeitung einsetzt, riskiert nicht nur Ansprüche der abgebildeten Personen. Unter Umständen kann zusätzlich der KI-Anbieter versuchen, eigene Prozess- und Schadenskosten auf den Nutzer abzuwälzen.
