So nutzen Sie diese Checkliste
Hintergrund zu Artikel 10 finden Sie unter was Artikel 10 für Ihre Trainingsdaten bedeutet. Artikel 10 gilt für Hochrisiko-KI-Systeme. Er stellt Qualitätsanforderungen an die Trainings-, Validierungs- und Testdaten, auf denen sie beruhen. Gehen Sie die folgenden Punkte für jeden Datensatz durch und notieren Sie Ihre Antwort und den Nachweis. Die Formulierungen folgen dem aktuellen geänderten Text im AI Act Service Desk der Kommission. Dies ist eine allgemeine Information, keine Rechtsberatung.
Verfahren der Daten-Governance (Artikel 10 Absatz 2)
Ihre Verfahren der Daten-Governance und des Datenmanagements müssen der Zweckbestimmung des Systems entsprechen und insbesondere Folgendes abdecken:
- a) Konzeptionelle Entscheidungen: welche Daten Sie gewählt haben und warum.
- b) Erhebung und Herkunft: wie die Daten erhoben wurden, woher sie stammen und bei personenbezogenen Daten der ursprüngliche Zweck ihrer Erhebung.
- c) Aufbereitung: Annotation, Kennzeichnung, Bereinigung, Aktualisierung, Anreicherung und Aggregierung.
- d) Annahmen: was die Daten messen und darstellen sollen.
- e) Verfügbarkeit, Menge und Eignung der benötigten Datensätze.
- f) Mögliche Verzerrungen (Bias), die Gesundheit und Sicherheit oder Grundrechte beeinträchtigen oder zu verbotener Diskriminierung führen könnten, besonders wenn Ausgaben in künftige Eingaben zurückfließen.
- g) Maßnahmen, um die festgestellten Verzerrungen zu erkennen, zu verhindern und abzuschwächen.
- h) Datenlücken oder Mängel, die der Einhaltung der Vorschriften entgegenstehen, und wie Sie diese beheben.
Qualität der Daten (Artikel 10 Absätze 3 und 4)
- Die Datensätze sind für die Zweckbestimmung relevant, hinreichend repräsentativ und so weit wie möglich fehlerfrei und vollständig.
- Sie haben geeignete statistische Merkmale, auch in Bezug auf die Personen oder Personengruppen, bei denen das System eingesetzt werden soll. Das kann für einzelne Datensätze oder für eine Kombination von Datensätzen erfüllt werden.
- Soweit es die Zweckbestimmung erfordert, berücksichtigen sie die besonderen geografischen, kontextuellen, verhaltensbezogenen oder funktionalen Rahmenbedingungen, unter denen das System eingesetzt werden soll.
Was sich im geänderten Text geändert hat
Absatz 5 zur Verarbeitung besonderer Kategorien personenbezogener Daten, um Verzerrungen zu erkennen, wurde gestrichen. Das Thema steht jetzt im neuen Artikel 4a: Eine solche Verarbeitung ist nur ausnahmsweise erlaubt, wenn sie unbedingt erforderlich ist, und unter strengen Bedingungen zusätzlich zur DSGVO, zum Beispiel dass synthetische oder anonymisierte Daten nicht ausreichen würden, mit strenger Zugriffskontrolle und Löschung, sobald die Verzerrung behoben ist oder die Speicherfrist endet. Absatz 6 besagt, dass Systeme, die keine Modelle trainieren, die Absätze 2 bis 4 nur auf ihre Testdaten anwenden.
Ab wann es gilt
Nach dem konsolidierten Text im AI Act Service Desk (geprüft am 12. Oktober 2026) gelten die Vorschriften für die in Anhang III aufgeführten Hochrisiko-Systeme ab dem 2. Dezember 2027 und für Systeme, die unter Anhang I fallen, ab dem 2. August 2028. Die FAQ des Service Desk beschreiben diese Änderungen noch als Vorschlag. Prüfen Sie daher den aktuellen Text, bevor Sie mit einem Datum planen.
Wo Prüfungen helfen
Punkt c zur Bereinigung und Punkt h zu Lücken sind die Stellen, an denen Prüfungen Datei für Datei Ihnen Nachweise liefern: welche Dateien defekt, doppelt oder unscharf waren oder personenbezogene Daten enthielten, und was Sie entschieden haben. Automatische Prüfungen entscheiden nicht, ob Ihre Daten repräsentativ sind, und sie machen ein System nicht konform.