Start › KI-Recht › KI-Rechtsverletzungen
KI-Systeme können Rechte verletzen, wenn sie trainiert, betrieben oder ihre Ergebnisse veröffentlicht werden. Betroffen sind Urheber, abgebildete Personen, Wettbewerber und Kunden. Wir setzen Ansprüche gegen Verletzer durch und verteidigen Unternehmen, denen eine Rechtsverletzung durch KI vorgeworfen wird.
Urheberrechtsverletzungen durch KI
Typische Fälle sind das Training mit Werken trotz wirksamen Nutzungsvorbehalts, die Wiedergabe geschützter Texte, Bilder oder Musik durch das Modell und die Veröffentlichung von KI-Ergebnissen, die fremde Werke übernehmen. Das LG München I hat in den Verfahren der GEMA gegen OpenAI und Suno den Anbieter für Ausgaben verantwortlich gemacht, die geschützte Werke wiedergeben. Wer KI-Inhalte veröffentlicht, haftet daneben selbst als Täter. Einzelheiten auf unserer Seite KI und Urheberrecht.
Persönlichkeitsrecht und Deepfakes
Gefälschte Bilder, Videos oder Stimmen realer Personen verletzen das Recht am eigenen Bild und das allgemeine Persönlichkeitsrecht. Je nach Inhalt kommen Straftatbestände in Betracht, etwa die Beleidigungsdelikte der §§ 185 ff. StGB. Werbung mit dem nachgeahmten Gesicht oder der Stimme einer bekannten Person verletzt zudem deren vermögenswerte Bestandteile des Persönlichkeitsrechts und begründet eine Lizenzanalogie. Plattformen müssen gemeldete rechtswidrige Inhalte nach dem Digital Services Act zügig prüfen und entfernen.
Halluzinationen: falsche Tatsachen über Personen
Chatbots erfinden mitunter Straftaten, Gerichtsverfahren oder berufliche Verfehlungen realer Personen. Für die Betroffenen ist das eine unwahre Tatsachenbehauptung. Anspruchsgrundlagen sind §§ 823, 1004 BGB analog sowie die DSGVO: Personenbezogene Daten müssen richtig sein (Art. 5 Abs. 1 lit. d), Betroffene haben Rechte auf Berichtigung und Löschung (Art. 16, 17). Ob und wie Anbieter fehlerhafte Angaben in einem Modell berichtigen können, ist technisch und rechtlich umstritten; Datenschutzbehörden haben dazu Beschwerden gegen Anbieter großer Sprachmodelle erhalten. Verbreitet ein Unternehmen eine solche Falschbehauptung weiter, etwa in einem automatisch erstellten Bericht, haftet es selbst.
Datenschutzverstöße durch KI
Rechtswidrig sind unter anderem das Training mit personenbezogenen Daten ohne Rechtsgrundlage, die Eingabe von Kunden- oder Beschäftigtendaten in Dienste ohne Vertrag, automatisierte Einzelentscheidungen entgegen Art. 22 DSGVO und unzureichende Auskünfte über die Logik eines Systems. Betroffene können Auskunft, Löschung und nach Art. 82 DSGVO Ersatz auch immaterieller Schäden verlangen; nach der Rechtsprechung des EuGH genügt bereits ein Kontrollverlust über Daten, wenn er nachgewiesen ist.
Diskriminierung durch KI
Benachteiligt ein KI-System Bewerber, Beschäftigte oder Kunden wegen eines geschützten Merkmals, haftet das einsetzende Unternehmen nach dem AGG auf Entschädigung und Schadensersatz, auch wenn die Software zugekauft wurde. Die Beweislast verschiebt sich nach § 22 AGG zulasten des Unternehmens, sobald Indizien vorliegen. Mehr dazu auf der Seite KI im Personalbereich.
Irreführende KI-Werbung und Wettbewerbsverstöße
Wer mit „KI-gestützt“, „von KI geprüft“ oder Leistungsversprechen wirbt, die das Produkt nicht hält, handelt irreführend (§ 5 UWG). Gleiches gilt, wenn KI-generierte Bewertungen, Testimonials oder Influencer verwendet werden, ohne dies erkennbar zu machen, oder wenn ein Chatbot den Eindruck eines menschlichen Beraters erweckt. Wettbewerber und Verbände können abmahnen. Verstöße gegen Marktverhaltensregeln wie Art. 50 AI Act können zudem über § 3a UWG verfolgt werden; ob die Gerichte das anerkennen, ist noch offen.
Verstöße gegen den AI Act
Verbotene Praktiken, fehlende Kennzeichnung nach Art. 50 oder die Nichteinhaltung von Hochrisiko-Pflichten verfolgt in erster Linie die Aufsicht, in Deutschland die Bundesnetzagentur. Jede Person kann dort Beschwerde einlegen (Art. 85 AI Act). Da Art. 110 AI Act die Verordnung in den Anhang der Verbandsklagenrichtlinie aufgenommen hat, kommen außerdem Verbandsklagen von Verbraucherverbänden in Betracht.
Ansprüche bei KI-Rechtsverletzungen
- Unterlassung und Beseitigung, im Eilfall per einstweiliger Verfügung
- Auskunft über Umfang der Nutzung, Herkunft und Empfänger
- Löschung und Berichtigung, auch nach Art. 16 und 17 DSGVO
- Schadensersatz, bei Urheber- und Persönlichkeitsrechten oft nach Lizenzanalogie
- Entschädigung nach § 15 AGG oder Geldentschädigung bei schweren Persönlichkeitsverletzungen
- Meldung an Plattformen nach Art. 16 DSA, Beschwerde bei Aufsichtsbehörden
Abwehr von Vorwürfen
Wird Ihnen eine Rechtsverletzung durch KI vorgeworfen, prüfen wir zuerst, ob der Inhalt tatsächlich auf Ihrem System beruht und wer verantwortlich ist: Sie, Ihr Anbieter oder ein Nutzer. Danach entscheiden wir über Unterlassungserklärung, modifizierte Erklärung oder Verteidigung. Freistellungsklauseln in Ihren Lieferantenverträgen sichern wir frühzeitig.
Häufige Fragen
Ein Chatbot behauptet Falsches über mich. Was kann ich tun?
Sie können vom Anbieter Berichtigung oder Unterdrückung der Ausgabe und Auskunft über die verarbeiteten Daten verlangen. Parallel kommen eine Beschwerde bei der Datenschutzaufsicht und eine Unterlassungsklage in Betracht.
Haftet der Nutzer oder der Anbieter für rechtsverletzenden Output?
Beide können haften. Der Anbieter nach den Münchener Urteilen für das, was sein Modell wiedergibt, der Nutzer für das, was er veröffentlicht.
Wie schnell muss ich reagieren?
Für eine einstweilige Verfügung sollten Sie innerhalb von etwa vier Wochen nach Kenntnis handeln; manche Gerichte sind strenger.
Verwandte Themen
Ihr Ansprechpartner
Sie sind von einer KI-Rechtsverletzung betroffen oder haben eine Abmahnung wegen KI-Inhalten erhalten? Rufen Sie uns an unter 0511 35 73 56-0 oder schreiben Sie an info@itrechtler.de.