Comment créer une IA de confiance ?

AVIS D’EXPERT

Une étude menée par Impact AI en 2023 révèle que malgré une perception positive en termes de productivité, gain de temps et créativité, le potentiel de l’IA est encore peu mis en œuvre par le grand public. Moins d’un quart des sondés l’auraient déjà utilisé dans leur vie personnelle et seulement 16% dans un cadre professionnel. Bien que la perception globale soit positive, des inquiétudes persistent. Les préoccupations majeures sont l’utilisation des données personnelles, les pertes d’emplois potentielles et le respect de la propriété intellectuelle. Les personnes interrogées ont également des avis assez divergents quant à l’importance et l’impact de cette innovation. Globalement, il y a une volonté de mieux comprendre et d’être davantage informé sur les conséquences de l’IA générative notamment au travail. De plus, 70 % des Français estiment que l’IA générative devrait être sous contrôle humain, pour une relecture et une vérification après intervention.

Sachant que ChatGPT est une application publique et non protégée, il y a un réel enjeu de contrôle à mettre en place pour bon nombre d’entreprises. La question de l’éthique, bien que complexe et dépendante du contexte socioculturel, est très vite abordée au même titre que le sujet de responsabilité juridique. Pour répondre à des problématiques cruciales d’éthique et de protection des données, ou pour limiter le nombre de controverses et d’incidents très nombreux liés à l’IA Générative, il est nécessaire de créer une IA de confiance. Selon une étude IBM, le déploiement d’une IA éthique en entreprise se fait étape par étape. Premièrement, on met en contexte son utilisation dans la vision stratégique globale de l’entreprise. Ensuite on établit une gouvernance pouvant assurer son implémentation. Enfin, on l’intègre dans le cycle de l’entreprise en engageant les parties prenantes et en organisant une structure. Il faut également définir une politique, en pilotant et en soutenant la culture ainsi que la formation en interne. La mise en place d’une méthodologie et de processus rigoureux est nécessaire.

Aujourd’hui, les technologies d’IA se nourrissent de quantités massives de données dont un grand nombre sont personnelles, voire sensibles. Il est donc nécessaire de trouver un équilibre entre la protection de ces dernières, le respect des règles légales, et le développement de cette technologie. L’IA vient avec son lot de complexité en matière de RGPD avec des risques pouvant engendrer discrimination, vol de données, violation de la vie privée ou gestion abusive d’informations. En réponse à ces problématiques, la CNIL a mis en place un certain nombre de ressources publiques permettant de répondre aux défis posés par l’IA. Parmi elles : Comment sécuriser un système ou assurer une transparence, s'informer sur les enjeux liés à l’utilisation de l’IA, comment auto-évaluer son système d’IA… Comme témoin des actions mises en place à grande échelle : l’AI Act. C’est le règlement européen qui vise à réguler les utilisations de l’intelligence artificielle en classant les applications en fonction de leur niveau de risque éthique : minime, limité, élevé ou inacceptable. Son objectif est de veiller à ce que les systèmes d’IA mis sur le marché européen soient sûrs et respectent les droits fondamentaux des citoyens et les valeurs de l’UE. Tout cela en garantissant la sécurité juridique et en renforçant les exigences en matière de sécurité.

Avec des échanges de quantités massives de données liées à l’IA, il est essentiel pour les entreprises de protéger efficacement leurs Systèmes d’Informations. Il est donc judicieux pour le développement d’une IA de Confiance de passer par la mise en place ces audits afin de détecter et prévenir des failles potentielles de sécurité.