Le COCIR a publié en 2020 une analyse sur les dispositifs basés sur de l’IA dans le champ d’application du RDM et du RDIV.

Le but de cette analyse est de faire le point sur plusieurs sujets/problématiques liées aux dispositifs intégrant de l’IA ainsi que de montrer comment un dispositif IA peut être conforme aux réglementations afin d’apporter aussi une meilleure confiance des utilisateurs vis-à-vis des dispositifs intégrants de l’IA.

Le COCIR fait des propositions concrètes tout au long de cette analyse et propose des recommandations vis-à-vis de l’environnement règlementaire, y compris des approches possibles en matière de gestion des changements dans les logiciels.

Il est important de noter que la publication de ce guide étant antérieure à la publication de la proposition de règlement européen sur l’IA (AI Act de 2021), les propositions émises par le COCIR en matière de législation relative à l’IA ont été en partie reprises dans l’AI Act.

Dans les recommandations du COCIR, un point d’honneur est accordé à l’implémentation des principes généraux de bases liés à l’utilisation de systèmes d’IA tels que l’éthique, la confiance, la transparence, l’explicabilité ou encore la confidentialité et la protection des données suivants les règlementations européennes. Ainsi l’association de MedTech via ces recommandations place la gestion des risques au centre des processus de conception, développement et d’utilisation de l’IA dans le domaine de la santé.

Les recommandations du COCIR concernent également la nécessité de procéder à la mise à jour de normes utilisées dans le domaine de la santé pour refléter les dispositifs intégrant de l’IA :

• l’IEC 82304-1 afin que les fabricants décrivent dans les informations destinées aux utilisateurs :
  • la possibilité du dispositif de fournir un contrôle humain ainsi que de décrire les dispositions selon lesquels le dispositif évolue dans le temps (IA fixe ou évolutive, description des changements possibles et comment l’humain peut les contrôler),
  • les dispositions concernant les possibilités de modification du dispositif par l’utilisateur ;
  • informer des performances du dispositif basé sur l’IA afin de mieux discerner les résultats pouvant être attendues du système d’IA.
• l’IEC 62304 afin d’intégrer la documentation d’un « Algorithme Change Protocol (ACP) » pour les dispositifs d’IA apprenantes qui changent par apprentissage. Le fait de prédéterminer le type de modification permet une meilleure adaptation du patient ou de l’utilisateur mais également permet que l’appareil lui-même s’adapte vis-à-vis du patient. Ce protocole (ACP) sera donc intégré dans la documentation technique pour revue lors de l’évaluation de la conformité.

A noter que le RDM et le RDIV n’autorisent pas actuellement les fabricants à mettre sur le marché des dispositifs basés sur l’IA destinés à être modifiés en dehors d’une enveloppe de modifications prédéterminées ou de suggérer des allégations, des utilisations prévues ou des conditions d’utilisation du dispositif pour lequel aucune évaluation de la conformité n’a été effectuée.