La publication en avril 2021 de la proposition de règlement européen sur l’intelligence artificielle par la Commission Européenne s’inscrit dans une volonté globale de l’ensemble des parties prenantes de définir le cadre d’utilisation de cette nouvelle technologie.

L’un des principes majeurs introduits par cette proposition est l’approche basée sur les risques ainsi que la classification des systèmes d’IA en quatre catégories en fonction des risques :

• • • • Risque inacceptable (utilisation prohibée dans l’UE car menace pour la sécurité, la vie et les droits des personnes)
      • Haut risque (évaluation avant mise sur le marché et surveillance pendant tout le cycle de vie)
      • Risque modéré (obligation de transparence vis-à-vis des utilisateurs concernant l’utilisation d’un système d’IA)
      • Risque minimal (pas d’exigences particulières)

Cette proposition impose une obligation de transparence pour les systèmes d’IA qui :

• • • • interagissent avec des humains, ou
      • sont utilisés pour détecter des émotions ou déterminer l’association avec des catégories (sociales) sur la base de données biométriques, ou
      • génèrent ou manipulent des contenus (trucages vidéos ultraréalistes)

Les concepteurs de ces systèmes devront également impérativement informer les utilisateurs de leur interaction avec un système d’IA ainsi que de l’exploitation qui sera faite des données récoltées.

L’article 14 du Règlement IA précise les mesures de contrôle humain. Le contrôle humain a pour but de limiter les risques lors de l’utilisation d’un système d’IA à haut risque. Il peut être assuré soit par des mesures internes au dispositif soit par des actions réalisées par l’utilisateur du système. Les responsabilités données dans le cadre du contrôle humain permettent de limiter le mauvais fonctionnement du système et de mettre un terme à l’utilisation de celui-ci dans le cas où les résultats dévient du fonctionnement prévu.