Pour le directeur des opérations d'Avanoo, l'usage incontrôlé des outils d'intelligence artificielle constitue désormais l'un des principaux angles morts des banques et des compagnies d'assurance.

LA NOUVELLE ÉCONOMIE INTERVIEW

Étienne Delouvrier : « Vingt ans de cybersécurité bancaire peuvent être contournés en trente secondes »

Pendant vingt ans, les banques ont bâti des forteresses numériques. Elles ont recruté des spécialistes, créé des centres opérationnels de sécurité - les fameux SOC - installé des systèmes capables de détecter les fuites de données, segmenté leurs réseaux et multiplié les certifications. Des années d’investissements, de procédures et de budgets négociés parfois âprement auprès des directions générales. Et pourtant, explique Étienne Delouvrier, directeur des opérations d’Avanoo, tout cet édifice peut être mis en difficulté en quelques secondes. Il suffit qu’une chargée de clientèle copie un extrait de dossier dans un outil d’intelligence artificielle afin de reformuler une lettre compliquée destinée à un client. « Elle colle l’extrait du dossier. Trente secondes. La forteresse n’a rien vu passer.

Vingt ans d’un côté, trente secondes de l’autre : le ratio est mauvais », résume-t-il. La salariée ne cherche évidemment pas à voler des informations. Elle veut simplement gagner du temps et mieux rédiger son courrier. Mais les données copiées peuvent concerner une succession, une situation patrimoniale, un contrat d’assurance ou des éléments d’identité particulièrement sensibles. Elles sont alors transmises à un service extérieur dont l’entreprise ne connaît pas nécessairement les règles de conservation, le lieu d’hébergement ou les conditions d’utilisation.

C’est précisément ce qui distingue le « Shadow AI » des menaces informatiques traditionnelles. L’expression désigne l’utilisation, par les salariés, d’outils d’intelligence artificielle qui n’ont pas été autorisés ou même recensés par leur entreprise. Le phénomène rappelle le « Shadow IT », lorsque les collaborateurs installaient eux-mêmes des logiciels ou utilisaient des services en ligne sans passer par leur direction informatique. Mais l’IA générative donne au problème une tout autre dimension. « Le Shadow AI ne ressemble à aucune menace précédente. Il n’est pas malveillant, il n’exploite pas de vulnérabilité, il ne contourne pas un pare-feu. Il passe par la porte que l’on a soi-même installée », observe Étienne Delouvrier.

Le vieux modèle de la cybersécurité reposait sur une frontière relativement claire : les informations sensibles demeuraient à l’intérieur du système informatique, tandis que le danger venait de l’extérieur. Il fallait donc bâtir des murs, surveiller les échanges et empêcher l’intrusion. L’intelligence artificielle générative bouleverse cette logique. La fuite ne prend plus forcément la forme d’un fichier envoyé par courrier électronique. Elle peut se cacher dans quelques phrases copiées dans une fenêtre de dialogue. Or ces échanges sont beaucoup plus difficiles à identifier, notamment lorsqu’ils passent par un compte personnel, une extension de navigateur ou un téléphone connecté au réseau de l’entreprise.

Étienne Delouvrier affirme avoir découvert, dans certaines entreprises de taille moyenne, plusieurs centaines de services d’IA différents. « Onze étaient officiellement référencés par la DSI », précise-t-il. Autrement dit, la direction informatique n’avait connaissance que d’une fraction des outils réellement employés. Beaucoup de ces services sont gratuits et hébergés hors de l’Union européenne. En quelques copier-coller, ils peuvent donc recevoir des informations que les services juridiques et de conformité ont mis des années à identifier et à classer comme confidentielles. Face à cette situation, la première tentation consiste naturellement à bloquer les sites d’intelligence artificielle depuis le réseau de l’entreprise. Mais cette réponse, selon Étienne Delouvrier, est largement insuffisante. Les listes de blocage sont constamment en retard, car de nouveaux outils apparaissent chaque semaine. Surtout, l’intelligence artificielle est désormais intégrée à des logiciels déjà autorisés : suites bureautiques, logiciels de ressources humaines, plateformes collaboratives ou outils de gestion documentaire. Le domaine internet est connu et accepté ; le système de filtrage ne distingue donc pas toujours la nouvelle fonction d’IA qui s’y est glissée.