Entwicklung von Software mit KI – was ist zu beachten?

Der Einsatz von KI in der Softwareentwicklung hat in den vergangenen Jahren eine neue Qualität erreicht. Unternehmen nutzen KI‑Tools zur Code‑Generierung, zur Automatisierung von Entwicklungsprozessen und zur Qualitätssicherung. Gleichzeitig entstehen neue rechtliche Fragen – insbesondere im Bereich der KI‑Regulierung, des Datenschutzes, der IT‑Sicherheit und des Schutzes von Geschäftsgeheimnissen.

Dieser Beitrag gibt einen kompakten Überblick über die wichtigsten Punkte, die bei der Entwicklung von Software mit KI zu beachten sind.

1. Wann ist Software überhaupt ein KI‑System?

Ob ein System als „KI“ im Sinne der KI‑Verordnung gilt, ist entscheidend für die rechtlichen Pflichten. Als KI‑System gelten Lösungen, die u. a. Merkmale wie Autonomie, Lernfähigkeit, Ableitungsprozesse oder schwer nachvollziehbare Entscheidungsprozesse aufweisen. Bei klassischen regelbasierten Systemen liegt hingegen keine KI vor.

2. Organisatorische Anforderungen im Unternehmen

Viele Unternehmen unterschätzen nach wie vor die Komplexität der KI‑Regulierung. Verantwortliche benötigen klare Strukturen, insbesondere:

• Aufbau interner KI‑Kompetenz
• Schulungen zu Ethik, Recht und Technik
• Benennung einer verantwortlichen KI‑Person im Unternehmen
  

3. Datenschutz und KI‑gestützte Softwareentwicklung

Im Zusammenhang mit KI und DSGVO ist besonders darauf zu achten, dass ein sicherer Datentransfer an die Anbieter der KI-Modelle erfolgt. Als Vorfrage gilt es freilich zu klären, ob überhaupt personenbezogene Daten verarbeitet werden.

4. Schutz von Geschäfts‑ und Betriebsgeheimnissen

KI‑Tools können Know‑how ausleiten, wenn sie unkontrolliert genutzt werden. Technische und organisatorische Schutzmaßnahmen sind daher essenziell, etwa:

• Zugriffsbeschränkungen
• Verschlüsselung
• Geheimhaltungserklärungen
• strukturierter Offboarding‑Prozess
  

5. IT‑Sicherheit und Robustheit von KI‑Systemen

Gerade lernfähige Systeme weisen besondere Risiken auf, z. B. durch manipulierbare Trainingsdaten. Für Unternehmen gilt daher:

• Backup‑ und Wiederherstellungsprozesse dokumentieren
• regelmäßige Prüfungen der Datensicherheit durchführen
  

6. Barrierefreiheit (B2C‑Software)

Für KI‑gestützte Oberflächen und Anwendungen gelten Barrierefreiheitsanforderungen, wenn sie gegenüber Verbraucher:innen eingesetzt werden (z. B. Webshops).

7. Urheberrechtliche Frage: Wann ist KI‑entwickelte Software geschützt?

Dies ist ein zentraler Punkt, der in vielen Projekten unterschätzt wird:

7.1. Grundsatz: Urheberrecht schützt nur menschliche Schöpfungen

Software ist nach geltendem Urheberrecht nur geschützt, wenn eine persönliche geistige Schöpfung eines Menschen vorliegt. Wird Code vollständig von einer KI erzeugt, fehlt dieser menschliche Beitrag. Damit ist der KI‑generierte Code nicht urheberrechtlich geschützt.

7.2. Der menschliche Beitrag muss erheblich sein

Damit Software trotz KI‑Beteiligung geschützt ist, muss ein Mensch:

• kreativ gestaltend eingreifen,
• Entscheidungen treffen,
• strukturelle oder inhaltliche Vorgaben machen
  und damit die Gesamtausgestaltung prägen.

Ein bloßes „Prompt eingeben“ reicht in der Regel nicht.

7.3. Pflicht zur Dokumentation des menschlichen Beitrags

Unternehmen sollten klar dokumentieren:

• welche Teile der Software von Menschen erstellt wurden,
• wie die kreative Steuerung erfolgte,
• welche Arbeitsanteile KI‑generiert sind,
• welche menschlichen Entscheidungen die Ausgestaltung beeinflusst haben.

Diese Dokumentation dient mehreren Zwecken:

• Beweisfunktion im Fall von Streitigkeiten
• Vermeidung von Rechtsunsicherheit bei Lizenzierung
• Schutz des Unternehmensvermögens, da nur menschlich geschaffene Teile exklusiv verwertbar sind

Dieser Aspekt ist zentral – denn ohne hinreichende menschliche Mitwirkung und deren Dokumentation verliert Software faktisch ihren urheberrechtlichen Schutz.‍

‍

8. Fazit: KI‑Entwicklung erfordert klare Strukturen – rechtlich und organisatorisch

Wer KI in der Softwareentwicklung nutzt, sollte die damit verbundenen Risiken und Pflichten kennen. Neben KI‑Regulierung, Datenschutz und Geheimnisschutz spielt das Urheberrecht eine entscheidende Rolle: Nur durch dokumentierte menschliche Gestaltung bleibt Software rechtlich schützbar.

FAQ – Häufig gestellte Fragen zur KI‑gestützten Softwareentwicklung

1. Ist KI‑generierter Code urheberrechtlich geschützt?

Nein. Reiner KI‑Output ist nicht urheberrechtlich geschützt, da es an einer menschlichen Schöpfung fehlt. Nur wenn ein Mensch kreativ gestaltend eingreift, entsteht ein schützbares Werk.

2. Was muss dokumentiert werden, um urheberrechtlichen Schutz zu sichern?

Unternehmen sollten nachvollziehbar festhalten:

• Welche Anteile der Software von Menschen stammen
• Welche kreativen Entscheidungen getroffen wurden
• An welchen Stellen KI lediglich unterstützend tätig war

Diese Dokumentation dient später als Nachweis für die Werkqualität und Urheberschaft.

3. Muss ein KI‑Tool in das Verarbeitungsverzeichnis aufgenommen werden?

Nur dann, wenn personenbezogene Daten verarbeitet werden. Liegt keine Verarbeitung dieser Daten vor, ist kein Eintrag notwendig.

4. Welche Sicherheitsmaßnahmen sind beim Einsatz von KI besonders wichtig?

• Zugriffsbeschränkungen
• Verschlüsselung
• Protokollierung
• Funktionierendes Backup‑Management
  

5. Wann ist Software nach der KI‑Verordnung überhaupt ein KI‑System?

Nur wenn Kriterien wie Autonomie, Lernfähigkeit oder ein komplexer, schwer nachvollziehbarer Entscheidungsprozess vorliegen. Klassische regelbasierte Software fällt nicht darunter.

‍

Die Entwicklung von Software mit KI berührt heute zahlreiche Rechtsgebiete – vom Urheberrecht über Datenschutz bis hin zu IT‑Sicherheits‑ und Compliance‑Vorgaben.

Wenn Sie sicherstellen möchten, dass Ihr Unternehmen rechtlich sauber, compliant und zukunftssicher aufgestellt ist, unterstützen wir Sie gerne:

👉 Jetzt unverbindliche Anfrage senden: anfrage@digital-recht.at

‍

‍

‍

‍