KI in der Softwareentwicklung: Effizienzgewinn mit neuen Transparenzpflichten

Künstliche Intelligenz verändert die Softwareentwicklung grundlegend. Was vor wenigen Jahren noch als futuristische Vision galt, ist heute gelebter Alltag: Entwickler nutzen Large Language Models zur Code-Generierung, KI-Systeme unterstützen bei der Fehlersuche, erstellen Testfälle, dokumentieren Quellcode oder generieren sogar vollständige Softwaremodule. Der Einsatz von KI verspricht erhebliche Produktivitätssteigerungen, wirft aber gleichzeitig neue rechtliche Fragen auf. Besonders relevant sind dabei die Transparenzpflichten der Verordnung (EU) 2024/1689 über Künstliche Intelligenz („KI-VO“ bzw. „AI Act“), insbesondere Art. 50 KI-VO.

KI als Werkzeug der modernen Softwareentwicklung

Die Praxis zeigt, dass KI-Systeme heute nahezu jeden Abschnitt des Software-Lebenszyklus begleiten können. Von der ersten Anforderungsanalyse über die Erstellung von Architekturkonzepten bis zur Umsetzung, Qualitätssicherung und Wartung werden generative KI-Systeme zunehmend eingesetzt. Entwickler erhalten innerhalb von Sekunden Codevorschläge, Dokumentationen oder automatisierte Tests. Dadurch reduziert sich der Zeitaufwand für Routineaufgaben erheblich.

Rechtlich ist zunächst zu unterscheiden, ob KI lediglich ein unterstützendes Werkzeug darstellt oder ob sie eigenständig Inhalte erzeugt, die als Arbeitsergebnis verwendet werden. Diese Unterscheidung gewinnt insbesondere im Zusammenhang mit den Transparenzpflichten der KI-VO an Bedeutung. Art. 50 KI-VO adressiert ausdrücklich Systeme, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen. Darunter fallen grundsätzlich auch KI-Systeme, die Softwarecode generieren.

Dabei ist zu beachten, dass die KI-VO zwischen Anbietern („Provider“) und Betreibern („Deployers“) unterscheidet. Während Anbieter bestimmte technische Kennzeichnungspflichten erfüllen müssen, treffen Betreiber zusätzliche Offenlegungspflichten in besonderen Konstellationen.

Art. 50 KI-VO: Transparenz statt Verbote

Häufig wird die KI-VO als Verbotsgesetz wahrgenommen. Tatsächlich verfolgt sie jedoch primär einen risikobasierten Ansatz. Im Bereich generativer KI setzt der europäische Gesetzgeber insbesondere auf Transparenz. Ziel ist es, natürlichen Personen erkennbar zu machen, wann sie mit KI interagieren oder wann ein Inhalt künstlich erzeugt bzw. manipuliert wurde.

Für Anbieter generativer KI-Systeme normiert Art. 50 Abs. 2 KI-VO eine technische Kennzeichnungspflicht. Danach müssen Ausgaben eines KI-Systems in einem maschinenlesbaren Format gekennzeichnet werden und als künstlich erzeugt oder manipuliert erkennbar sein. Die verwendeten technischen Maßnahmen müssen – soweit technisch möglich – wirksam, interoperabel, belastbar und zuverlässig sein. Als Beispiele werden in den Erwägungsgründen und den aktuellen europäischen Codes of Practice insbesondere Metadaten, Wasserzeichen, kryptografische Herkunftsnachweise und vergleichbare Technologien genannt.

Für Unternehmen, die KI-gestützte Softwaretools entwickeln oder vertreiben, bedeutet dies, dass die Kennzeichnungspflicht bereits auf Systemebene berücksichtigt werden sollte. Mit anderen Worten: Transparenz wird zunehmend zum Bestandteil eines „AI by Design“-Ansatzes.

Was bedeutet das für KI-generierten Quellcode?

Eine besonders interessante Frage lautet, ob KI-generierter Softwarecode künftig gekennzeichnet werden muss. Die KI-VO selbst enthält hierzu keine ausdrückliche Sonderregelung. Da Programmcode grundsätzlich als Textinhalt qualifiziert werden kann, spricht vieles dafür, dass auch generierter Quellcode vom Anwendungsbereich des Art. 50 Abs. 2 KI-VO erfasst ist. Relevant ist allerdings die Ausnahme für Systeme, die lediglich eine unterstützende Funktion bei der Standardbearbeitung ausüben oder Eingabedaten nicht wesentlich verändern.

In der Praxis dürfte dies bedeuten, dass KI-gestützte Autovervollständigung, Rechtschreibkorrekturen oder geringfügige Optimierungen regelmäßig nicht denselben Transparenzanforderungen unterliegen wie die autonome Erstellung ganzer Softwaremodule. Die Abgrenzung wird allerdings im Einzelfall vorzunehmen sein und dürfte Gegenstand zukünftiger Leitlinien und Rechtsprechung werden.

Die neuen Guidelines: Transparenz wird technisch konkretisiert

Besondere Aufmerksamkeit verdienen die im Jahr 2025 veröffentlichten europäischen „Code of Practice on Transparency of AI-Generated Content“. Diese Leitlinien konkretisieren die Anforderungen des Art. 50 KI-VO erheblich. Danach sollen Anbieter generativer KI-Systeme maschinenlesbare Kennzeichnungen verwenden, die das künstliche Entstehen oder die Manipulation von Inhalten nachvollziehbar machen. Gleichzeitig sollen Erkennungsmöglichkeiten („Detection Mechanisms“) zur Verfügung gestellt werden, damit Nutzer prüfen können, ob Inhalte KI-generiert sind.

Die Guidelines verfolgen dabei einen technologieoffenen Ansatz. Sie nennen insbesondere:

• digitale Wasserzeichen,
• Metadatenkennzeichnungen,
• Herkunftsnachweise („Provenance Information“),
• maschinenlesbare Identifikationsmerkmale,
• interoperable Erkennungsverfahren.

Ziel ist nicht die Bewertung der inhaltlichen Qualität eines Outputs, sondern die Information über dessen künstlichen Ursprung. Die Transparenzpflicht soll also nicht darüber aufklären, ob ein Inhalt „richtig“ oder „falsch“ ist, sondern darüber, dass KI an seiner Erstellung beteiligt war.

Für Softwareentwickler bedeutet dies, dass künftig vermehrt technische Nachweissysteme in Entwicklungsplattformen, Coding-Assistenten und DevOps-Prozesse integriert werden könnten. Dies gilt insbesondere dann, wenn KI-generierte Komponenten weitergegeben oder veröffentlicht werden.

Transparenz als Wettbewerbsfaktor

Unabhängig von den gesetzlichen Mindestanforderungen entwickelt sich Transparenz zunehmend zu einem Vertrauensfaktor. Unternehmen, die offenlegen, wie und in welchem Umfang KI in Entwicklungsprozessen eingesetzt wird, stärken nicht nur ihre Compliance, sondern auch ihre Glaubwürdigkeit gegenüber Kunden und Geschäftspartnern. Gerade im Bereich der Softwareentwicklung, in dem Fragen der Sicherheit, Qualität und Nachvollziehbarkeit zentral sind, kann Transparenz zu einem echten Wettbewerbsvorteil werden.

Die KI-VO verfolgt letztlich keinen technologiefeindlichen Ansatz. Sie will Innovation ermöglichen und gleichzeitig das Vertrauen in KI-Systeme stärken. Für Unternehmen der Softwarebranche bedeutet dies, dass KI künftig nicht nur effizient, sondern auch nachvollziehbar und rechtlich compliant eingesetzt werden muss. Wer Transparenz frühzeitig in Entwicklungsprozesse integriert, wird von den neuen regulatorischen Anforderungen deutlich weniger überrascht werden als jene Unternehmen, die KI ausschließlich als Produktivitätswerkzeug betrachten.

‍