Les technologies de reconnaissance faciale augmentées des apports de l’intelligence artificielle interrogent le droit mais aussi notre conception même de la frontière entre liberté et sécurité.
J’ai par le passé pu mettre en avant, grâce à la note scientifique sur les objets connectés, la nécessité de s’interroger sur la masse d’informations collectées pour ces nouvelles technologies et le danger potentiel pour nos libertés individuelles. La question de notre éducation à l’économie de la donnée n’est de mon point de vue pas satisfaisante et nous empêche d’apprécier avec discernement les choix qui s’offrent à nous en matière de protection de la vie privée.
Aussi je poursuis ce travail d’analyse dans le cadre de ma mission dans l’Office des sciences et technologies de l’Assemblée Nationale (OPECST) en étendant le questionnement à la reconnaissance faciale. (En savoir plus) avec pour objectif de rédiger une nouvelle note scientifique traitant des enjeux de la reconnaissance faciale par l’intelligence artificielle. Les auditions ont débuté avec la communauté scientifique, les organismes de régulation comme la CNIL et l’ARCEP, le secrétaire d’Etat au numérique (Cédric O), le coordinateur ministériel pour l’intelligence artificielle du Ministère de l’intérieur (Renaud Vedel), l’Association des maires de France (AMF), et enfin les grands acteurs économiques comme par exemple Amazon, Idemia, Qwant et Microsoft.
Qu’englobe-t-on dans le terme reconnaissance faciale ?
La reconnaissance faciale existe depuis plusieurs années dans le champ de la vidéo protection ou plus largement dans le champ industriel. C’est l’incorporation de l’intelligence artificielle qui a fait exploser son potentiel avec l’insertion de technologies de traitement automatisé de l’image du visage qui sont ou non biométriques. Elles ne sont biométriques que si elles permettent la reconnaissance, l’identification du visage et non si elles détectent simplement la présence du visage ou si elles « clarifient » ce visage (détail le sexe, l’âge, l’expression reliée à l’émotion, etc.).
Sur les aspects techniques, on distingue communément quatre configurations de reconnaissance faciale liées au support d’images entre base de données :
- D’une image fixe vers une image fixe
- D’une vidéo vers une image
- D’une image fixe vers une vidéo
- D’une vidéo vers une vidéo
Quelles perspectives d’application pour la reconnaissance faciale en France ?
Ces technologies séduisent et sont de moins en moins de l’ordre de la sciences fiction sur les usages possibles qu’elles offrent. Cela va de la facilitation pour le parcours des usagers, des clients, avec des magasins connectés et intelligents, à plus largement l’analyse d’image dans l’industrie pour améliorer la productivité et la sécurité. L’analyse d’image est un progrès indéniable pour différents secteurs industriels, pour la santé et l’agriculture par exemple. Il existe également un débat sur l’utilisation de ces technologies dans un but de sécurité (seuls les visages connus sont signalés par l’algorithme) et de contrôle (examen de tous les visages). Il est à noter que chaque pays a une approche différente du niveau de croisement et d’analyse des différentes bases de données qui peuvent être rapprochées.
Si les perspectives d’application sont aussi multiples, la prise en compte des limites de ces technologies s’impose pour empêcher certaines dérives.
- Un taux d’erreur encore trop élevé : La réussite va dépendre de la qualité et la diversité des données d’apprentissage sur lesquelles s’entrainent les intelligences artificielles. Cela pose en substance la question de l’acquisition et de la conservation ces données afin qu’elles soient exploitables.
- Une chaine de responsabilité à clarifier : Pour ne pas se retrouver par exemple dans la même situation que des plateformes de réseaux sociaux, qui laissent les discours haineux en ligne proliférer (un texte de loi a été déposé dans ce sens à l’Assemblée Nationale). Nous devons être clairs dès à présent sur la responsabilité de chacun pour éviter les dérives connues.
- Une validation humaine à conserver : L’intelligence artificielle ne peut fonctionner correctement seule, une validation humaine permet d’éviter, de corriger certaines erreurs telle que la discrimination.
- Le consentement des usagers : Comment techniquement permettre à chaque citoyen de rester anonyme s’il le souhaite ? Cette question doit être posée pour que les droits fondamentaux ne soient pas bafoués, sachant que des algorithmes peuvent anonymiser les visages en temps réel et rendre cela possible.
A ce stade, il apparait nécessaire de pouvoir expérimenter à plus grande échelle les technologies de la reconnaissance faciale et son impact sur nos usages et notre vie quotidienne. Expérimenter, permettrait également de tester et rassembler l’écosystème français sur ces technologies et proposer une feuille de route de déploiement et de donner un cadre réglementaire adaptée.