L’IA explicable : redonner confiance en l’IA.

AVIS D’EXPERT

La complexité croissante des modèles d’IA s’accompagne d’un problème majeur: celui de la transparence. Certains modèles d’IA de dernière génération sont devenus si complexes dans la façon dont ils décident d’un résultat, que même les experts du domaine ne parviennent pas à comprendre comment ni pourquoi ils prennent ces décisions. C’est ce que l’on appelle souvent le problème de la boîte noire – que l’IA explicable vise à résoudre.

L’IA explicable est un aspect de l’intelligence artificielle visant à rendre l’IA plus transparente et plus compréhensible, et se traduisant par une plus grande confiance de la part des équipes qui en bénéficient. Dans un monde parfait, un modèle d’IA robuste exécute des tâches complexes pendant que les utilisateurs observent le processus de décision et contrôlent les erreurs et les problèmes.

À mesure que davantage de technologies basées sur IA seront développées et adoptées, davantage de réglementations gouvernementales et industrielles seront aussi promulguées. Dans l’Union européenne, par exemple, la loi sur l’IA impose la transparence des algorithmes d’IA, mais son périmètre reste pour l’instant limité. L’IA est un outil si puissant qu’elle continuera sans aucun doute à gagner en popularité et en sophistication, entraînant dans son sillage davantage de réglementations et d’exigences en matière de transparence.

En fin de compte, l’IA explicable consiste à rationaliser et améliorer les capacités d’une organisation. Davantage de transparence signifie une meilleure compréhension de la technologie utilisée, de meilleurs diagnostics et davantage d’opportunités d’affûter les outils d’une organisation.

Les méthodologies d’IA explicable en sont toujours à leurs premiers stades de développement. D’ici cinq ans, de nouveaux outils et de nouvelles méthodes auront fait leur apparition pour comprendre les modèles d’IA complexes, même si ces modèles continuent à progresser et à évoluer. À l’heure actuelle, les experts et les fournisseurs de solutions d’IA doivent impérativement continuer leurs efforts pour rendre explicables les applications d’IA, afin de fournir aux organisations des outils d’IA à la fois sûrs, fiables et puissants.