Comment utiliser cette liste
Pour le contexte de l’article 10, voir ce que l’article 10 implique pour vos données d’entraînement. L’article 10 s’applique aux systèmes d’IA à haut risque. Il fixe des exigences de qualité pour les données d’entraînement, de validation et de test sur lesquelles ils reposent. Passez en revue les points ci-dessous pour chaque jeu de données, et notez votre réponse et les éléments de preuve. La formulation suit le texte modifié actuel publié sur l’AI Act Service Desk de la Commission. Ce guide est une information générale, pas un conseil juridique.
Pratiques de gouvernance des données (article 10, paragraphe 2)
Vos pratiques de gouvernance et de gestion des données doivent être adaptées à la destination du système et porter en particulier sur :
- a) Les choix de conception : quelles données vous avez choisies et pourquoi.
- b) La collecte et l’origine : comment les données ont été collectées, d’où elles proviennent et, pour les données à caractère personnel, la finalité initiale de leur collecte.
- c) La préparation : annotation, étiquetage, nettoyage, mise à jour, enrichissement et agrégation.
- d) Les hypothèses : ce que les données sont censées mesurer et représenter.
- e) La disponibilité, la quantité et l’adéquation des jeux de données nécessaires.
- f) Les biais possibles susceptibles de porter atteinte à la santé et à la sécurité, aux droits fondamentaux, ou de conduire à une discrimination illégale, en particulier lorsque les sorties influencent les entrées futures.
- g) Les mesures visant à détecter, prévenir et atténuer les biais relevés.
- h) Les lacunes ou insuffisances des données qui empêchent la conformité, et la manière d’y remédier.
Qualité des données (article 10, paragraphes 3 et 4)
- Les jeux de données sont pertinents, suffisamment représentatifs et, dans toute la mesure du possible, exempts d’erreurs et complets au regard de la destination.
- Ils présentent des propriétés statistiques appropriées, y compris pour les personnes ou groupes de personnes à l’égard desquels le système est destiné à être utilisé. Cette exigence peut être remplie au niveau de chaque jeu de données ou d’une combinaison de jeux de données.
- Dans la mesure requise par la destination, ils tiennent compte du cadre géographique, contextuel, comportemental ou fonctionnel spécifique dans lequel le système sera utilisé.
Ce qui a changé dans le texte modifié
Le paragraphe 5, sur le traitement de catégories particulières de données à caractère personnel pour détecter les biais, a été supprimé. Ce sujet relève désormais du nouvel article 4 bis : un tel traitement n’est autorisé qu’à titre exceptionnel, lorsqu’il est strictement nécessaire, et sous des conditions strictes qui s’ajoutent au RGPD, par exemple que des données synthétiques ou anonymisées ne suffiraient pas, un contrôle d’accès rigoureux, et l’effacement une fois le biais corrigé ou la durée de conservation écoulée. Le paragraphe 6 prévoit que les systèmes qui n’entraînent pas de modèles appliquent les paragraphes 2 à 4 à leurs seules données de test.
Date d’application
Selon le texte consolidé publié sur l’AI Act Service Desk (consulté le 12 octobre 2026), les règles applicables aux systèmes à haut risque énumérés à l’annexe III s’appliquent à partir du 2 décembre 2027, et celles applicables aux systèmes relevant de l’annexe I à partir du 2 août 2028. La FAQ du Service Desk présente encore ces changements comme une proposition : vérifiez donc le texte en vigueur avant de vous fonder sur une date.
Où les contrôles aident
Le point c) sur le nettoyage et le point h) sur les lacunes sont ceux où des contrôles fichier par fichier vous apportent des preuves : quels fichiers étaient corrompus, en double, flous ou contenaient des données personnelles, et ce que vous avez décidé. Les contrôles automatiques ne déterminent pas si vos données sont représentatives, et ils ne rendent pas un système conforme.