KI-Verträge: Einkauf, Entwicklung und Nutzung von KI

Start › KI-Recht › KI-Verträge

KI-Systeme liefern wahrscheinlichkeitsbasierte Ergebnisse. Klassische IT-Verträge, die von einer festen Spezifikation und reproduzierbarem Verhalten ausgehen, passen darauf nur eingeschränkt. Wir gestalten und verhandeln Verträge für den Einkauf von KI-Diensten, für KI-Entwicklungsprojekte und für eigene KI-Angebote.

KI-Einkauf: Verträge mit KI-Anbietern prüfen

Beim Einkauf von KI-Diensten treffen Unternehmen meist auf Standardbedingungen großer Anbieter. Verhandelbar ist dort wenig, prüfen sollten Sie trotzdem:

• Darf der Anbieter Eingaben und Ausgaben zum Training oder zur Produktverbesserung nutzen?
• Wo werden Daten verarbeitet und gespeichert, wer sind die Unterauftragnehmer?
• Gibt es einen Auftragsverarbeitungsvertrag und geeignete Garantien für Drittlandübermittlungen?
• Welche Zusagen gibt es zu Verfügbarkeit, Modellwechseln und Abkündigungen?
• Stellt der Anbieter Sie von Ansprüchen Dritter wegen Urheberrechtsverletzungen durch Output frei, und unter welchen Bedingungen?
• Welche Informationen erhalten Sie, um Ihre eigenen Pflichten nach dem AI Act zu erfüllen?

Bei Individualverträgen, etwa für branchenspezifische KI-Lösungen, ist deutlich mehr möglich. Dort verhandeln wir Leistungskennzahlen, Audit- und Informationsrechte, Exit-Regelungen und Haftung.

KI-Entwicklungsverträge

Wird ein KI-System für Sie entwickelt oder angepasst, sollte der Vertrag folgende Punkte klären: Zweck und Einsatzbereich, Qualitätsmaßstäbe als messbare Kennzahlen (etwa Fehlerraten auf einem vereinbarten Testdatensatz), Herkunft und Rechte an Trainingsdaten, Abnahmeverfahren, Dokumentation für die Pflichten nach dem AI Act, Wartung und Nachtraining sowie die Verteilung der Anbieterrolle. Rechtlich handelt es sich meist um Werkverträge oder um Verträge über digitale Produkte; bei agiler Entwicklung kommen Elemente des Dienstvertrags hinzu.

Gewährleistung für KI-Output

Fehlerfreiheit kann bei KI nicht geschuldet werden. Entscheidend ist deshalb, was als vertragsgemäß gilt. Wir empfehlen, die Beschaffenheit über Kennzahlen, Testverfahren und Einsatzgrenzen zu beschreiben statt über das einzelne Ergebnis. Im Verbraucherbereich gelten die §§ 327 ff. BGB für digitale Produkte einschließlich der Aktualisierungspflicht; in AGB kann die Gewährleistung dort kaum eingeschränkt werden. Im B2B-Bereich sind Beschaffenheitsvereinbarungen und Hinweise auf typische Fehlerquellen zulässig, ein pauschaler Ausschluss aber regelmäßig nach § 307 BGB unwirksam.

Rechte an Daten, Modellen und Ergebnissen

Zu regeln ist, wem die Trainingsdaten, das angepasste Modell, die Gewichte und die Ergebnisse zustehen. Da KI-Output häufig nicht urheberrechtlich geschützt ist, helfen klassische Rechteeinräumungen allein nicht weiter; wir arbeiten mit vertraglichen Nutzungs- und Exklusivitätsregeln und Geheimhaltungspflichten. Für Daten aus vernetzten Produkten ist der Data Act zu beachten, dessen Art. 13 unfaire Klauseln im B2B-Verkehr untersagt.

Haftungsbegrenzung in KI-Verträgen

Anbieter wollen ihre Haftung für Fehlentscheidungen der KI begrenzen, Kunden wollen abgesichert sein. Haftungsbegrenzungen sind im B2B in Grenzen zulässig: Vorsatz, Verletzung von Leben, Körper und Gesundheit und die Haftung nach dem Produkthaftungsgesetz können nicht ausgeschlossen werden, und Kardinalpflichten dürfen nicht ausgehöhlt werden. Sinnvoll sind Haftungshöchstbeträge, die zum Auftragswert passen, gekoppelt an eine Versicherung, sowie klare Mitwirkungspflichten des Kunden, etwa zur menschlichen Prüfung der Ergebnisse.

Eigene Nutzungsbedingungen für KI-Angebote

Wer selbst einen KI-Dienst anbietet, braucht Nutzungsbedingungen, die Zulässigkeit von Eingaben, Rechte am Output, Kennzeichnungspflichten, verbotene Nutzungen und den Umgang mit Rechtsverletzungen regeln. Hinzu kommen Datenschutzhinweise, gegebenenfalls ein Auftragsverarbeitungsvertrag und Informationen für Betreiber nach Art. 13 AI Act, sobald Hochrisiko-Pflichten greifen.

EU-Musterklauseln für die KI-Beschaffung (MCC-AI)

Die Europäische Kommission stellt unverbindliche Musterklauseln für die Beschaffung von KI durch öffentliche Stellen bereit, jeweils in einer Fassung für Hochrisiko-Systeme und für sonstige Systeme. Sie bilden die Anforderungen des AI Act vertraglich ab, etwa zu Daten-Governance, Dokumentation, Transparenz und menschlicher Aufsicht. Für private Unternehmen sind sie eine brauchbare Checkliste, müssen aber um Vergütung, Haftung, Rechte und Gewährleistung ergänzt werden. Bei öffentlichen Aufträgen sind zusätzlich die EVB-IT zu berücksichtigen.

So gehen wir vor

Wir prüfen Anbieterbedingungen mit einer Ampelbewertung, verhandeln Zusatzvereinbarungen und entwerfen Entwicklungs-, Lizenz- und Nutzungsverträge. Für das Erstgespräch benötigen wir die Vertragsunterlagen, eine kurze Beschreibung des Einsatzzwecks und die Information, welche Daten verarbeitet werden.

Häufige Fragen

Können wir die Haftung für falsche KI-Ergebnisse ganz ausschließen?

Gegenüber Verbrauchern nicht, gegenüber Unternehmen nur eingeschränkt. Wirksamer ist es, Einsatzgrenzen und die Pflicht zur menschlichen Prüfung vertraglich zu verankern.

Wem gehört ein auf unseren Daten nachtrainiertes Modell?

Das hängt allein vom Vertrag ab. Ohne Regelung bleibt der Anbieter Inhaber; Sie haben dann oft nur ein Nutzungsrecht für die Vertragslaufzeit.

Sind die MCC-AI für private Verträge geeignet?

Als Ausgangspunkt ja. Sie decken aber nur die AI-Act-bezogenen Pflichten ab und müssen um kaufmännische und haftungsrechtliche Regelungen ergänzt werden.

Verwandte Themen

• KI-Produkte entwickeln
• KI-Haftung
• SaaS-Verträge
• Agile IT-Projekte
• Mustervertrag Softwareentwicklung
• EVB-IT