La Délégation ministérielle au numérique en santé a publié ses recommandations de bonnes pratiques pour une éthique des solutions d’intelligence artificielle. Que faut-il en retenir ?
Secteur médical et solutions d’IA : qu’est-ce qui est « éthique » ?
L’innovation technologique grâce à l’intelligence artificielle (IA) est encore peu encadrée. C’est pourquoi, il est souvent fait appel à l’éthique pour aiguiller les professionnels (codeur, développeur, juriste, etc.) qui y ont recours.
Il leur est notamment demandé d’avoir une éthique dès le début de leur projet : c’est ce que l’on appelle « l’éthique by design ».
Mais la notion d’éthique est vaste et différente selon les personnes, les organismes ou les Etats.
Pour uniformiser cette notion, la Délégation ministérielle au numérique en santé a publié ses recommandations de bonnes pratiques pour une éthique « by design » des solutions d’IA dans le secteur médical.
Le rapport a identifié 4 étapes clé :
- la collecte des données ;
- le pré-traitement des données ;
- la construction de l’algorithme ;
- l’évaluation de l’algorithme en amont de la mise en production de la solution numérique.
A titre d’exemple, pour l’étape 1, il est recommandé de se poser les questions suivantes :
- les données servant à l’entraînement de l’algorithme ont-elles été obtenues auprès de tiers garantissant le consentement éclairé des patients qui les ont produites pour une réutilisation au-delà de la finalité première du recueil ?
- les données servant à l’entraînement de l’algorithme ont-elles été obtenues via des modalités garantissant la sécurisation du transfert et l’intégrité des données transférées ?
- les données ont-elles été pseudonymisées selon des modalités garantissant leur confidentialité ?
- est-ce que l’ensemble des données collectées et utilisées pour l’entraînement de l’algorithme respecte le principe de proportionnalité prévu par le règlement général sur la protection des données (RGPD) et se réduit aux seules données nécessaires au traitement prévu compte tenu de la finalité de l’algorithme ?
