L'éthique de l'intelligence artificielle expliquée à mon fils.

LITTÉRATURE

Enrico Panai est un éthicien de l’IA avec une formation en philosophie et une vaste expérience en conseil. Il a été professeur adjoint en Humanités numériques pendant sept ans à l’Université de Sassari (Italie). Titulaire d’un doctorat en Cybergéographie et Éthique de l’IA, il est le fondateur du cabinet de conseil BeEthical.be. Il enseigne l’IA Responsable à l’EMlyon Business School, ainsi qu’à l’université La Cattolica de Milan. Il est également président de l’Association des Éthiciens de l’IA. Actuellement, il occupe un rôle majeur au sein du Comité français de normalisation pour l’IA. Il est le coordonnateur du groupe de travail sur les aspects fondamentaux et sociétaux de l’IA au CEN-CENELEC JTC21, l’organisme européen de normalisation dédié à la production de livrables répondant aux besoins du marché et de la société européens. Enrico Panai conseille les plus grandes entreprises européennes, ainsi que des gouvernements. 

Enrico Panai a répondu à L’Hebdo-Bourseplus à l’occasion de la sortie de son livre. Finalement, l’être humain a-t-il une éthique au fond de lui-même ? On éprouve des remords, des scrupules, cela peut commencer dès la naissance. Toutefois, l’intelligence artificielle n’a pas cela… Enrico Panai explique que « dans certaines études, on observe que les primates ont un sens de la justice. Par exemple, quand un chercheur donne une meilleure prime à un singe, plutôt qu’à un autre, les autres manifestent un sentiment d’injustice. Cela signifie que certains principes vont au-delà de l’enseignement et du langage. Les animaux reconnaissent quelque chose qui est juste et injuste, on voit donc que l’éthique est très profonde au fond de nous. Dans son étymologie, l’éthique vient du grec, mais on a la morale et les mœurs qui viennent du latin. Cela signifie plus ou moins la même chose, ce sont les coutumes et les habitudes de la société. On vit ensemble et on partage certaines règles. C’est pour cela que lorsque l’on se rencontre pour une réunion dans un bureau, tout le monde vient habillé, mais sur la plage tout le monde est en maillot de bain. C’est l’éthique simplifiée. Certains font la différence entre la morale et l’éthique, mais je suis plutôt dans une école philosophique visant à utiliser le terme de la même façon. » 

L’intelligence artificielle ne fait qu’emmagasiner des données, sans s'interroger sur leur destination. Donc, si vous téléchargez des centaines de livres racistes ou antisémites, l’intelligence artificielle va croire que c’est quelque chose de tout à fait normal… L’auteur ajoute que « quand on travaille sur l’éthique avec des développeurs informatiques, on les amène naturellement à prendre conscience des risques éthiques. Il y a tout un parcours pour comprendre la source des problèmes et où il faut apporter un système permettant de réduire cela. C’est ce que nous faisons dans toutes les entreprises. » 

En fait, « l’intelligence artificielle ne va pas se demander si c’est normal ou non, elle fait simplement de la statistique. Si l’ensemble des livres qui composent une base de données pour entraîner une machine sont des mauvais livres, le résultat sera mauvais. Mais cela apporte un autre problème. On utilise des biais de la société pour entraîner des machines. Nous avons des discriminations dans la société, donc on reprend les données de la société, et les machines feront naturellement des discriminations. Ce qui est intéressant, c’est que l’analyse de ces données nous permet d’avoir un projecteur sur ces discriminations. Le système de l’intelligence artificielle n’est qu’une loupe pour comprendre les discriminations existantes, entre les genres ou entre les religions. Quand c’est une machine qui ressort cela, ce n’est pas acceptable, donc on a envie de corriger son résultat. C’est donc une partie positive de ce que nous vivons. » 

On parle souvent d’éthique en évoquant les grands sujets, mais cela va bien au-delà. Prenons l’exemple d’un vendeur qui essayera de vendre un produit, comme une tablette haut de gamme, à une dame âgée, en sachant pertinemment qu’elle ne saura pas s’en servir, tandis qu'un commerçant qui fera preuve d’éthique lui proposera un modèle d’entrée de gamme avec quelques fonctionnalités essentielles… Un site de commerce en ligne peut-il faire preuve d’éthique dans ses recommandations ? Enrico Panai explique que « dans toute situation où il y a un agent qui fait une action et une personne en face, les actions du vendeur sont en permanence basées sur l’éthique, c’est comme le langage. On parle beaucoup d’éthique dans le domaine de l’intelligence artificielle, mais cela date de l’apparition du numérique parce que, pour la première fois, on a un problème d’allocation de la responsabilité. Qui est responsable si quelque chose est mal fait ? Si c’est un vendeur, c’est une personne. Mais si c’est une machine, comment lui attribuer la responsabilité de quelque chose ? Les machines ne sont pas programmées comme des logiciels et on a donc réellement un problème à attribuer une responsabilité, puisque la logique est basée sur des statistiques. Dans ce contexte, on ne peut même pas rendre responsable le développeur et c’est toute la difficulté que nous avons aujourd’hui. » 

L’arrivée de l’intelligence artificielle agentique va-t-elle régler ce problème ? Les agents de l’IA agentique peuvent-ils devenir de plus en plus humains ? Le spécialiste estime que « pour que les agents puissent fonctionner, il faut que l’environnement soit bien construit. Souvent, on imagine l’intelligence artificielle comme un système humain. En réalité, ce sera très efficace pour certaines petites tâches, lorsque les données sont propres et bien organisées. Si ce n’est pas le cas, les erreurs peuvent être énormes. Par exemple, c’est efficace pour corriger la grammaire. Mais, en réalité, l’IA ne comprendra absolument rien à ce qu’elle fait. Si j’utilise l’IA pour commander mes billets d’avion, ce sera très efficace la plupart du temps. Mais, un jour, je me retrouverai avec un billet pour le pôle Nord sans que j’aie l’intention d’y aller ! L’agent IA aura pourtant déjà payé mon billet d’avion. Pour moi, ces systèmes ne doivent pas nous enlever du temps, notamment pour vérifier ce qu’ils ont fait, sinon ils ne sont pas utiles. J’invite chacun à réfléchir à cette notion de temps. »