Après 4 mois d’auditions, jeudi 18 juillet 2019, j’ai présenté à mes collègues députés et sénateurs membres de l’Office parlementaire d’évaluation des choix scientifiques et technologiques la note scientifique dont j’étais rapporteur sur les enjeux de la reconnaissance faciale par l’intelligence artificielle. [LIRE LA NOTE]
Une note scientifique pour élever le débat
La prégnance des données dans la société, et par extension de l’intelligence artificielle qui les exploite, est désormais étendue. Aujourd’hui, notre modèle économique est de plus en plus dépendant de cette économie de la donnée. Le traitement par l’intelligence artificielle dans de nombreux domaines fait aujourd’hui partie intégrante de notre vie quotidienne.
Cette transformation technologique suppose de réfléchir aux nombreux enjeux qui en découlent et comme par exemple pour les objets connectés, les usages associés à ces technologies infusent notre quotidien, nos pratiques, bien plus rapidement que la nécessaire réflexion éthique sur leur conséquences à moyens et longs termes.
La question de l’éducation des futurs citoyens pour qu’ils comprennent et fassent des choix éclairés en matière de reconnaissance faciale est posée. Un cadre d’expérimentation français doit-il être développé avec l’écosystème industriel et académique pour que l’innovation et la souveraineté française soit respectée. L’expression des citoyens dans ces expérimentations est aussi indispensable pour sortir de l’unique discussion scientifique de la fiabilité des protocoles.
Cette note aura permis, au fil des différentes itérations menées en auditions, de faire un premier pas pour comprendre les besoins posés par les technologies de reconnaissance faciale.
Les progrès liés au développement de l’intelligence artificielle, en particulier l’apprentissage profond (deep learning) ont permis aux outils de reconnaissance faciale de devenir beaucoup plus performants. Ils semblent aujourd’hui à la portée de tous : applications pour smartphone, paiement automatique, contrôle d’identité aux frontières, analyse des émotions et des comportements d’achats dans les magasins…
La reconnaissance faciale est une branche de la vision par ordinateur (une intelligence artificielle analyse des images de façon automatique) qui s’intéresse à l’analyse biométrique des visages présents sur image. Il ne faut pas la confondre avec l’analyse d’image qui est un procédé ne cherchant qu’à déterminer des caractéristiques précises (les émotions, le sexe, l’âge…).
Ces intelligences artificielles, ces algorithmes se nourrissent de données. Ainsi, souvent méconnue des citoyens, une large économie se développe autour de l’exploitation de ces données et s’accompagne de nombreuses craintes quant aux applications qui pourraient porter atteinte aux libertés fondamentales.
Il me semble de plus en plus nécessaire d’élaborer un cadre législatif d’expérimentation afin de tester ces dispositifs en conditions réelles et garantir notre souveraineté pour ne pas être dépendant des solutions mises au point par les géants du numérique, puis de définir un cadre de régulation au plus près des usages.
Le cas FaceAppqui rencontre un certain succès actuellement est un très bon exemple d’usage amusant qui a des répercussions en matière de data privacy.
Des recommandations pour aller plus loin
Nous avons tiré plusieurs conclusions afin de poursuivre les travaux et porter le sujet au-delà de cette note. Je vous propose de revenir sur les principaux points ci-dessous :
- Il me semble important de définir un cadre juridique d’expérimentation et doter la CNIL d’une mission d’accompagnement de l’innovation et d’incitation au « privacy by design » en s’inspirant du modèle de l’ARCEP.
- Pour garder la maitrise de ces algorithmes il nous faut bien sûr mettre en place un corps d’experts capables d’auditer les dispositifs. Cette proposition a déjà été formulée en 2018 par mon collègue Cédric Villani dans son rapport Donner un sens à l’intelligence artificielle, Pour une stratégie nationale et européenne.
- Si le deeplearning et les données massives ont fait grandement progresser les dispositifs de reconnaissance faciale il reste une marge d’erreur qu’il convient de surveiller ; à ce titre, conserver le principe d’une validation humaine pour les processus les plus sensibles est essentiel.
- Pour une reconnaissance faciale éthique et responsable, il va falloir réaffirmer la responsabilité de l’ensemble des acteurs : concepteur, intégrateur, responsable du traitement, aucun acteur ne doit se voir exonérer de toute responsabilité.
- Enfin, si nous voulons que ces technologies ne renforcent pas la fracture numérique, mesurer l’acceptabilité sociale de ces dispositifs semble s’imposer dans un premier temps. Une large économie de la donnée se développe et les différents acteurs ne sont pas toujours en capacité de prendre des décisions éclairées sur ces sujets. Il conviendrait donc d’améliorer la formation aux utilisations de la donnée des citoyens, mais aussi des collectivités territoriales.
Décidé à poursuivre ce travail, je vais suivre de près les expérimentations et travailler avec le secrétaire d’Etat chargé du numérique, Cédric O, pour bâtir un cadre d’expérimentation qui permettra à des technologies responsables et éthique de voir le jour en France.