KI-Verordnung und Recht: Data-Governance

Wie sich die neue KI-VO auf die Data-Governance auswirkt?

‍

KI-Systeme sind regelmäßig auf das Vorhandensein von Daten angewiesen. Sofern nach der KI-VO (aktuell im Entwurf) ein Hochrisiko-KI-System mit Daten trainiert wird, müssen Trainings-,Validierungs-, und Testdatensätze entwickelt werden. Diese Datensätze müssen Qualitätskriterien entsprechen, weshalb ein geeignetes Daten-Governance und Datenverwaltungsverfahren zu implementieren ist.

‍

Das Data-Governance-Verfahren nach der KI-VO:

‍

Dieses Data-Governance-Verfahren betrifft insbesondere folgende Aspekte:

-  die einschlägigen konzeptionellen Entscheidungen

-  die Datenerfassung

-  relevante Datenaufbereitungsvorgänge wie Kommentierung, Kennzeichnung, Bereinigung,Anreicherung und Aggregierung

-  die Aufstellung relevanter Annahmen, insbesondere in Bezug auf die Informationen, die mit den Datenerfasst und dargestellt werden sollen

-  Untersuchungen im Hinblick aufmögliche Verzerrungen (Bias)

-  die Ermittlung möglicher Datenlücken oder Mängel und wie diese Lücken und Mängel behoben werden können.

Die Training-, Validierungs-, und Testdatensätzemüssen letztlich relevant, repräsentativ, fehlerfrei und vollständig sein.

Nur sofern dies unbedingt erforderlich ist, dürfen Anbieter von Hochrisiko-KI-Systemen Daten besonderer Kategorie (sensible Daten) nach Art 9 DSGVOverarbeiten.

‍

Ausblick: KI und Recht

‍

Es ist davon auszugehen, dass die Data-Governance eine erhebliche Rolle im Bereich der KI-VO-Compliance spielen wird. Unternehmen tuen gut daran, sich bereits heute mit diesem Aspekt zu befassen.