Offenlegungspflichten und Mangelhaftigkeit KI-generierter Software

Worum es rechtlich wirklich geht

Der Einsatz von Künstlicher Intelligenz in der Softwareentwicklung ist längst Standard geworden. Gleichzeitig entstehen neue rechtliche Fragestellungen, die viele klassische Kategorien des Softwarerechts herausfordern – insbesondere im Bereich der Offenlegungspflichten, der vertraglichen Beschaffenheit und der Mängelhaftung.

1. Pflicht zur Offenlegung des KI-Einsatzes

Keine allgemeine Offenlegungspflicht

Eine gesetzliche Pflicht, jeden Einsatz von KI offenzulegen, besteht grundsätzlich nicht. Der Einsatz von KI ist – isoliert betrachtet – rechtlich neutral.

Aber: Offenlegung kann sich indirekt ergeben

In der Praxis ergibt sich eine Offenlegungspflicht häufig aus anderen rechtlichen Anknüpfungspunkten, insbesondere aus:

• vertraglichen Vereinbarungen
• vorvertraglichen Aufklärungspflichten
• Treu und Glauben
• Compliance-Anforderungen
• der berechtigten Erwartung des Auftraggebers

Gerade die vorvertragliche Aufklärung spielt eine zentrale Rolle: Der Anbieter muss über Umstände informieren, die für die Entscheidung des Auftraggebers wesentlich sind.

Die Erwartung des Kunden ist entscheidend

Wenn keine Aufklärung erfolgt, darf der Auftraggeber in vielen Fällen davon ausgehen, dass die Software klassisch – also menschlich – entwickelt wurde.

Daraus folgt:

• Ein KI-Einsatz kann aufklärungspflichtig sein
• Oft genügt ein Hinweis, dass KI eingesetzt wurde
• Eine detaillierte rechtliche Einordnung ist regelmäßig nicht erforderlich

2. KI-Einsatz als Beschaffenheitsfrage

Wann wird KI rechtlich relevant?

Der KI-Einsatz ist nicht per se ein Problem. Er wird aber dann relevant, wenn er Einfluss auf die vertraglich geschuldete Leistung hat.

Das ist insbesondere dann der Fall, wenn der KI-Einsatz Teil der Beschaffenheit der Software wird.

typische Konstellationen

Der KI-Einsatz kann zur Beschaffenheitsfrage werden, wenn:

• Individualsoftware geschuldet ist
• exklusive Nutzungsrechte eingeräumt werden sollen
• der Kunde die Software weiterlizenzieren möchte
• der wirtschaftliche Wert stark vom IP-Schutz abhängt
• sicherheitskritische Systeme entwickelt werden
• der Einsatz von KI vertraglich verboten oder eingeschränkt ist
• regulatorische Vorgaben eingehalten werden müssen

Kerngedanke

Nicht der KI-Einsatz an sich ist entscheidend – sondern die Frage, ob er mit der vertraglichen Erwartung kompatibel ist.

3. Fehlende Schutzfähigkeit als Sach- oder Rechtsmangel

Kein Automatismus

Ein KI-generierter Output ist nicht automatisch mangelhaft, nur weil er möglicherweise nicht urheberrechtlich geschützt ist.

Entscheidend ist die vereinbarte Beschaffenheit

Ein Mangel liegt erst dann vor, wenn:

• Schutzfähigkeit oder Rechteübertragbarkeit vereinbart waren oder
• diese Eigenschaften zumindest objektiv vorausgesetzt werden durften

typische Mangelfälle

Ein Mangel kommt insbesondere in Betracht, wenn:

• exklusive Nutzungsrechte zugesagt wurden
• eine persönliche geistige Leistung geschuldet war
• der Anbieter umfassende Rechtegarantien abgegeben hat
• der Kunde die Software wirtschaftlich weiterverwerten will
• der KI-Einsatz nicht offengelegt wurde
• die fehlende Schutzfähigkeit zu einer wirtschaftlichen Entwertung führt

Einordnung

In vielen dieser Fälle bewegt man sich im Bereich:

• des Sachmangels (bei Abweichung von der Beschaffenheit)
• oder des Rechtsmangels (bei fehlenden oder eingeschränkten Rechten)

4. Vertragsgestaltung – der zentrale Hebel

Die rechtlichen Risiken rund um KI lassen sich in der Regel nicht durch Gesetz lösen, sondern nur durch eine saubere Vertragsgestaltung.

KI-Einsatz explizit regeln

• Definition des KI-Einsatzes
• Erlaubnis, Verbot oder Genehmigungspflicht

Offenlegungspflichten festlegen

• klare Regelungen zur Information über KI-Nutzung
• ggf. Kennzeichnungspflichten für KI-generierte Inhalte

Dokumentation sicherstellen

• Nachvollziehbarkeit des Entwicklungsprozesses
• Transparenz über eingesetzte Tools

Rechte sauber strukturieren

• klare Trennung zwischen:
  • menschlich erstelltem Code
  • KI-generierten Bestandteilen
  • Drittkomponenten (z. B. Open Source)

keine pauschalen Rechtezusagen ohne Prüfung

Haftung und Freistellungen

• präzise Rechtegarantien
• Regelungen für den Fall von IP-Verletzungen

Audit- und Kontrollrechte

• Einsichtsrechte des Auftraggebers
• Prüfmöglichkeiten für KI-Einsatz und Komponenten

Umgang mit Daten

• Verbot der Eingabe vertraulicher Daten in öffentliche KI-Systeme
• klare Regeln für Datenverarbeitung

Sicherheit und Qualität

• Code-Review als Abnahmevoraussetzung
• Sicherheitsanforderungen und Standards

Fazit

Der Einsatz von KI in der Softwareentwicklung ist rechtlich kein Sonderfall – aber ein Verstärker bestehender Risiken.

Die zentralen Punkte sind:

• Keine generelle Offenlegungspflicht – aber häufig faktisch erforderlich
• KI kann zur Beschaffenheitsfrage werden
• Mängel entstehen nicht durch KI, sondern durch Abweichung von Erwartungen
• Der Schlüssel liegt in klaren, differenzierten Verträgen

Wer diese Aspekte berücksichtigt, kann KI rechtssicher einsetzen und gleichzeitig wirtschaftliche Chancen optimal nutzen.

‍