Envisageons un usage responsable des technologies de sécurité

Le rapport d’information auquel j’ai contribué, « Pour un usage Responsable et acceptable par la société des technologies de sécurité », vient d’être remis au Premier ministre. En effet, lors de son élaboration, j’ai présenté ma réflexion sur les enjeux posés par les dispositifs de reconnaissance faciale par l’intelligence artificielle (IA), nourrie par mon travail depuis 2018 sur les usages qu’impliquent les technologies dans notre société. C’est dans ce cadre également que j’ai déposé en mai 2021 une proposition de loi d’expérimentation créant un cadre d’analyse scientifique et une consultation citoyenne sur les dispositifs de reconnaissance faciale par l’intelligence artificielle, n° 4127 créant un cadre d’analyse scientifique et une consultation citoyenne sur les dispositifs de reconnaissance faciale par l’intelligence artificielle.

Cette mission, commandée par le Premier ministre en avril 2021 à mon collègue Jean-Michel Mis, traite des nombreuses perspectives qu’offrent les nouvelles technologies aux acteurs publics, particulièrement dans le champ particulier des missions de sécurité. Enjeu industriel et économique, ces technologies soulèvent également des enjeux majeurs pour les libertés et la protection de la vie privée. Je vous propose de retrouver dans cet article le contenu de ma contribution écrite et mon regard sur le rapport.

Pour rappel : Les dispositifs de reconnaissance faciale par l’IA reposent surl’identification ou l’authentification visuelle d’individu par comparaisonentre plusieurs photographies et/ou vidéos. Ils utilisent pour cela un type dedonnées spécifiques : les données biométriques. La reconnaissance faciale par l’IA s’est imposée comme une des plus puissantes technologies biométriques d’identification et de contrôle de l’identité des personnes à partir d’une image numérique ou d’un support vidéo. L’identification ne repose alors plus sur des documents d’identité ou une position géographique, mais uniquement sur le visage de la personne elle-même.

Image

Les dispositifs de reconnaissance faciale : des technologies biométriques aux usages multiples qui s’immiscent dans notre société

Comme il est indiqué dans la lettre de mission, les nouvelles technologies dont la reconnaissance faciale par l’IA offrent de nombreuses perspectives notamment dans le champ des missions desécurité. Dans un sondage Odoxa récent, conduit pour Saegus sur la reconnaissance faciale (mai 2021), les personnes interrogées associent spontanément la reconnaissance faciale à la surveillance (51%) et à la sécurité (41%) ; mais également à l’identité (40%), la technologie (39%) et à l’intelligence artificielle (39%).

Ainsi, pour que la réflexion soit aboutie et complète, nous ne devons pas envisager la reconnaissance faciale seule mais la globalité des différents cas d’usage qu’elle induit. Se laisser enfermer dans un débat d’application purement sécuritaire ferme la porte au développement de nombreux usages pour la santé ou une meilleure inclusion (handicap, vieillissement et perte d’autonomie dont les collectivités locales pourraient se saisir…).

Un travail minutieux et en concertation avec toutes les parties prenantes a permis d’identifier les cas d’usage qu’englobait le terme souvent trop générique de reconnaissance faciale. Lors de la rédaction de la note scientifique sur la reconnaissance faciale en octobre 2019, j’avais observé que nous sommes bien souvent rattrapés par les usages des nouvelles technologies qui envahissent notre vie quotidienne. Peu de nos concitoyens se pose la question des fondamentaux scientifiques qui y sont associés et des conséquences sur la société que nous lèguerons à nos enfants. La reconnaissance faciale par l’IA représente une somme d’opportunités et de limites qui sont directement liées à la réflexion sur la société dans laquelle nous souhaitons vivre demain :

  • La reconnaissance faciale par l’IA s’est imposée comme une des plus puissantes technologies biométriques d’identification et de contrôle de l’identité des personnes à partir d’une image numérique ou d’un support vidéo.  
  • Au cours des dix dernières années elle s’est immiscée dans notre vie quotidienne à travers différents usages comme le déverrouillage du téléphone.  
  • Les points de vue et prises de position sur cette technologie sont nombreux autant que divers : le sujet fait souvent polémique en raison des dérives sécuritaires qu’il inspire. 
  • Les collectivités locales en première lignesur le sujet ne sont pas armées pour répondre à de telles problématique. Plusieurs collectivités et entreprises lancent ou ont lancé ces derniers mois en France les premières expérimentations d’usage de la technologie de reconnaissance faciale.      

Mes conclusions pour un cadre responsable, transparent et éthique

Après deux ans de travaux pendant lesquels j’ai auditionné de nombreux acteurs institutionnels, industriels et associatifs, je suis arrivé à trois conclusions :

  1. Pour faire face à la réalité de l’utilisation de ces  technologies,  un raisonnement par cas d’usage s’impose
  2. Nous devons créer un cadre d’expérimentation  transparent et éthique pour les technologies de reconnaissance faciale qui  mobilisent l’IA aux fins d’en garantir un usage responsable. Il conviendra  dans ce cadre de s’appuyer sur les progrès des méthodologies d’audit des  algorithmes de l’IA et sur les réflexions en matière de droits à l’oubli dès lors que des données personnelles aussi sensibles que les données biométriques sont en jeu. Pour un usage éthique et transparent de ces technologies, deux paramètres doivent être pris en compte pour une expérimentation réussie : la création un comité de supervision qualifié à même de définir des protocoles stricts et la mise en place d’une méthodologie d’audit des algorithmes utilisés. 
  3. Nous devons organiser une consultation citoyenne  effective, de type états généraux, afin de donner la parole aux citoyens  français et de créer les conditions d’un débat éclairé et apaisé sur le sujet.

Pourquoi la loi d’expérimentation que je propose est nécessaire pour faire avancer le débat :

Je défends donc la nécessité d’une loi d’expérimentation qui permettra de cadrer à la fois le pilotage par un comité de supervision, le périmètre, les acteurs et les territoires concernés par une expérimentation et enfin les modalités d’une consultation citoyenne effective pour faire la pédagogie nécessaire sur les opportunités et les limites que représentent la reconnaissance faciale par l’IA. Cette loi d’expérimentation et de méthodologie traduira les engagements en matière de transparence et d’éthique que je souhaite voir appliqués aux acteurs et aux technologies dedéveloppement de la reconnaissance faciale dans l’espace public. C’est d’ailleurs pour cette raison que j’ai choisi de déposer une proposition de loi d’expérimentation créant un cadre d’analyse scientifique et une consultation citoyenne sur les dispositifs de reconnaissance faciale par l’intelligence artificielle, n° 4127 qui a inspiré cette contribution écrite. L’intelligence artificielle, et plus particulièrement les technologies qui en découlent, est un sujet d’actualité́ permanent.

Je souhaite privilégier « une voie Française » celle qui permet d’aborder de manière méthodique, scientifique etéthique les différents cas d’usage de la reconnaissance faciale par l’IA. Il nous faut dans les mois à venir créer un cadre responsable qui protège le citoyen et les collectivités territoriales des dérives. Poser ce cadre expérimental, c’est aussi être force de proposition dans les débats européenspour avancer en cohérence et construire un modèle technologique éthique et humain. D’ailleurs, les Français interrogés dans le cadre du sondage cité vontdans ce sens que la souveraineté́ n’est pas négociable : 82% d’entre eux affirment qu’il est important que la France se dote des moyens de développer et d’exploiter ses propres technologies d’IA plutôt que d’utiliser des technologies étrangères.

C’est d’autant plus important qu’en plus de cette question de souveraineté numérique, la pandémie nous a permis de prendre conscience des potentielles nouvelles applications que les nouvelles technologies offrent. A titre d’exemple, je peux vous citer l’algorithme quidétecte dans les transports si les usagers portent correctement le masque avec une technologie d’anonymisation des données contrôlée et suivie de près par la CNIL. Il me semble important que la méthode scientifique, celle que je propose dans cette contribution écrite et plus en détail dans ma proposition de loi, soit le raisonnement systématique à adopter. Le caractère scientifique et éthique de cette méthode permettra de construire un cadre adapté non seulement pour les dispositifs de reconnaissance faciale par l’IA mais à tous ces nouveaux usages qui émergent. Comme il est rappelé dans la lettre de mission, la France va accueillir dans les prochaines années des événements sportifs de grandes envergures tels que la coupe du monde de rugby en 2023 ou les jeux olympiques en 2024. Ces échéances sont certes importantes pour notre rayonnement international, elles le sont également pour mettre en place une expérimentation sérieuse comme je le propose afin de définir un cadre et lancer une consultation citoyenne.

Mon influence sur le rapport rendu au Premier ministre

Face au large champ des nouvelles technologies de sécurité, c’est une approche opérationnelle et pragmatique en définissant les usages qui semblent prioritaires au regard de trois objectifs :

  1. Répondre aux besoins des forces de sécurité,  
  2. Préserver les libertés, 
  3. Privilégier les technologies mures d’un pointde vue technique.

Cette approche a permis de proposer plusieurs garanties qui peuvent être apportées lors de l’emploi des technologies de sécurité afin de construire une relation de confiance entre les forces et les Français.

« Tout d’abord, un certain nombre de principes,communs à l’ensemble des technologies de sécurité, peuvent venir guider l’action des forces de sécurité. [..] Ensuite, la société civile peut être davantage mobilisée afin d’assurer une meilleure compréhension des enjeux etune définition collective des usages des nouvelles technologies. […] Enfin, la mise en place de moyens d’évaluation et de contrôle pour superviser l’emploi des technologies de sécurité par les forces est une garantie essentielle. »

Ainsi, 30 recommandations ont été formulé dans le rapport. Parmi lesquelles certaines sont directement inspirées de mon entretien avec le rapporteur et cette contribution écrite :

  • « Investir davantage dans les enjeux de normalisation et decertification à l’échelle internationale. » 
  • Favoriser l’approche expérimentale plutôt que de vouloir légiférer à outrance, notamment via « l’expérimentation des technologies d’aide à l’identification de situations de danger » 
  • « Expérimenter l’identification biométrique par reconnaissancefaciale en temps réel dans l’espace public à droit constant sur la base du volontariat, comme lors de l’expérimentation menée à Nice en 2019. » 
  • « Ouvrir un débat sur l’expérimentation de l’identification biométrique par reconnaissance faciale en temps réel dans l’espace public. L’inscrire dans un débat de société plus large sur l’emploi des nouvellestechnologies en matière de sécurité. »