Intelligence artificielle (IA): normes et règlementation

Publié le 10/10/23 par Jelle Hoedemaekers

L'IA est un sujet qui fait partie depuis plusieurs années des préoccupations de l'Europe. En 2021, la Commission européenne a présenté une proposition de législation sur l'IA (“AI Act"). La Commission, le Parlement et le Conseil de l'UE sont actuellement en train de négocier sur ce sujet et nous attendons un accord d'ici la fin de l'année. En parallèle, nous observons que le processus de normalisation a déjà commencé : c'est la normalisation qui permettra aux entreprises d’assurer leur conformité avec la loi sur l'IA.

Réguler l’IA comme comme un produit physique

La législation sur l'IA est donc la loi qui établit les principes de base et les "normes harmonisées" aidant à démontrer la conformité à la loi. Pour l’AI Act, l’Europe suit le nouveau cadre législatif (New Legislative Framework - NLF) : un cadre destiné à améliorer la réglementation et la normalisation des produits au sein de l'Union européenne. Le NLF comprend des règlements qui harmonisent les procédures relatives aux spécifications techniques, à l'évaluation de la conformité et à la surveillance du marché. Il introduit le marquage CE comme symbole de conformité aux réglementations de l'UE et il définit des exigences pour les organismes notifiés qui évaluent la conformité des produits. Ce cadre (NLF) est donc désormais également appliqué dans le cadre de l’AI Act.

Il est important de noter que cette législation sur l'IA s'applique à différentes catégories de systèmes d'IA, selon leur niveau de risque. Ainsi, tous les systèmes d'IA présents sur le marché ne seront pas soumis à de nouvelles exigences. Seule la catégorie des systèmes d'IA "à haut risque" sera soumise à des exigences spécifiques strictes. Toutefois, en tant qu'entreprise, si vous utilisez l'IA, il est important d'évaluer correctement la catégorie de risque dans laquelle se situe votre système d'IA. La législation sur l'IA n'étant pas encore définitive, l'incertitude demeure, bien qu'elle puisse déjà être déterminée pour certaines applications.

Si une entreprise développe ou utilise une application d'IA à haut risque, il convient d'utiliser des normes harmonisées pour garantir le respect de cette législation.

Les normes IA

L'élaboration de nouvelles normes et l'adaptation à la loi sur l'AI des normes existantes est précédé de tout un processus. Les organismes européens de normalisation CEN et CENELEC ont élaboré un programme de travail pour développer les normes nécessaires, comme le prévoit la loi sur l'AI. Ce programme de travail donne un aperçu des normes qui peuvent déjà être reliées à la loi sur l'IA et de celles qui doivent encore être élaborées.

Voici un bref aperçu des normes qui seront élaborées pour les différents aspects de la technologie IA :

Gestion des risques pour les systèmes d’IA

Des normes européennes sont en cours d'élaboration pour définir la manière dont les entreprises doivent gérer les risques liés aux systèmes d'IA. Cela permettra de garantir que les systèmes d'IA sont sans danger pour la santé et la sécurité des personnes, ainsi que pour les droits fondamentaux. Ces normes décriront comment ce processus de gestion des risques doit se dérouler tout au long du cycle de vie d'un système d'IA et comment il peut être intégré dans la gestion des risques d'un produit dans son ensemble.

Données et gestion des données

Les normes comprendront également des règles sur la manière dont les entreprises doivent collecter et utiliser les données lorsqu'elles construisent des systèmes d'IA. Il s'agit notamment d'assurer la qualité des données et de remédier aux éventuels biais. Il y aura également des lignes directrices sur la qualité des données utilisées pour former, tester et valider les systèmes d'IA.

Enregistrement et traçabilité

Ces normes exigeront que les systèmes d'IA enregistrent automatiquement les événements afin qu'il soit possible de suivre l'historique et le fonctionnement de ces systèmes tout au long de leur cycle de vie. Ceci est important pour contrôler les performances des systèmes d'IA et pour s'assurer qu'ils restent sûrs et efficaces après leur introduction sur le marché.

Transparence et information à l’utilisateur

Les normes exigeront que les systèmes d'IA soient transparents dans leur fonctionnement afin que les utilisateurs comprennent comment ils fonctionnent et puissent utiliser leurs résultats de manière appropriée. Les manuels d'utilisation comprendront des informations sur ce qu'un système d'IA peut et ne peut pas faire, ainsi que sur la manière dont il doit être entretenu.

Supervision humaine

Les normes décriront les mesures de supervision humaine des systèmes d'IA. Cela peut nécessiter que certaines fonctions soient contrôlées et interprétées par des humains. Des applications spécifiques, telles que l'identification biométrique à distance, peuvent même exiger que l'identification soit confirmée par plusieurs personnes avant qu'une action ne soit entreprise.

Précision et robustesse

Les normes fixeront des exigences en matière de précision et de robustesse des systèmes d'IA afin qu'ils restent fiables et efficaces dans des situations et des environnements différents. Des méthodes seront également établies pour mesurer et comparer la précision et les performances des systèmes d'IA.

La cybersécurité

Les normes comprendront des recommandations visant à protéger les systèmes d'IA contre les cyberattaques et autres formes de manipulation malveillante. Ces recommandations comprendront des mesures organisationnelles et techniques pour sécuriser les systèmes d'IA.

Gestion de la qualité pour les fournisseurs

Les entreprises qui développent des systèmes d'IA devraient mettre en place des systèmes de gestion de la qualité pour s'assurer que leurs systèmes répondent aux exigences en matière de données, de transparence, de cybersécurité, etc. Ces systèmes doivent être adaptés aux entreprises de différentes tailles.

Évaluation de conformité

Les normes établiront des procédures d'évaluation de la conformité des systèmes d'IA à ces normes et de la compétence des personnes chargées de ces évaluations. Cela permettra de garantir que les systèmes d'IA sont conformes aux normes établies et peuvent être utilisés en toute sécurité.

Pour en savoir plus

Agoria est très impliquée dans ce processus. Depuis le NBN, nous avons été désignés comme opérateur sectoriel pour les comités de normalisation relatifs à l'intelligence artificielle. Si, en tant qu'entreprise membre d'Agoria, vous souhaitez connaître l'impact des réglementations en matière d'intelligence artificielle sur votre situation commerciale, ou si vous souhaitez obtenir des détails sur les différentes normes en cours d'élaboration, vous pouvez contacter bert.spreuwers@agoria.be et jelle.hoedemaekers@agoria.be.