Für wen Artikel 10 gilt
Artikel 10 legt Anforderungen an Daten und Daten-Governance für Hochrisiko-KI-Systeme fest, die in der KI-Verordnung definierten Kategorien. Die Pflichten liegen vor allem beim Anbieter, also der Organisation, die das System entwickelt oder entwickeln lässt und unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt. Ist Ihr System kein Hochrisiko-KI-System, gilt Artikel 10 nicht unmittelbar, aber dieselbe Praxis macht Modelle verlässlicher. Prüfen Sie die aktuellen Geltungsdaten beim AI Act Service Desk der Europäischen Kommission.
Was er verlangt
Trainings-, Validierungs- und Testdatensätze müssen Daten-Governance- und Datenverwaltungsverfahren unterliegen, die für die Zweckbestimmung geeignet sind. Artikel 10 Absatz 2 nennt, worauf sich diese Verfahren beziehen, darunter Konzeptionsentscheidungen, Datenerhebung und Herkunft, Aufbereitung wie Annotation, Kennzeichnung und Bereinigung, Annahmen darüber, was die Daten abbilden, eine Bewertung von Verfügbarkeit, Menge und Eignung, die Untersuchung möglicher Verzerrungen und Gegenmaßnahmen sowie die Ermittlung von Datenlücken.
Artikel 10 Absatz 3 ergänzt: „Die Trainings-, Validierungs- und Testdatensätze müssen im Hinblick auf die Zweckbestimmung relevant, hinreichend repräsentativ und so weit wie möglich fehlerfrei und vollständig sein.“
Der geänderte Text auf dem AI Act Service Desk (geprüft am 12. Oktober 2026) enthält Absatz 5 zur Verarbeitung besonderer Kategorien personenbezogener Daten zur Erkennung von Verzerrungen nicht mehr; der Artikel verweist nun auf Artikel 4a Absatz 1. Lesen Sie den aktuellen Text dort, bevor Sie sich auf eine Zusammenfassung verlassen, auch auf diese.
Eine praktische Checkliste
- Zweck: Schreiben Sie auf, wofür das System gedacht ist und was die Daten abbilden müssen.
- Herkunft: Halten Sie fest, woher jeder Datensatz stammt und bei personenbezogenen Daten, warum sie ursprünglich erhoben wurden.
- Aufbereitung: Protokollieren Sie jeden Bereinigungs-, Annotations- und Filterschritt mit den verwendeten Regeln.
- Fehler: Prüfen Sie auf defekte Dateien, Duplikate über die Aufteilung hinweg, Unschärfe, eingefrorene Videos und andere Mängel und halten Sie Befunde und Entscheidungen fest.
- Repräsentativität und Verzerrung: Vergleichen Sie die Daten mit den Personen und Umgebungen, für die das System gedacht ist, und notieren Sie Lücken.
- Personenbezogene Daten: finden, Rechtsgrundlage klären, minimieren.
- Nachweis: Bewahren Sie die Dokumentation zusammen mit der Modellversion auf.
Was Werkzeuge leisten können und was nicht
Automatische Prüfungen helfen bei Fehlern, Duplikaten und personenbezogenen Daten und erzeugen eine Dokumentation der Prüfungen. Sie entscheiden nicht, ob Daten für Ihren Zweck repräsentativ sind, und sie machen ein System nicht konform. Dieser Leitfaden dient der allgemeinen Information und ist keine Rechtsberatung.