Volker Türk : « Une IA qui fait chanter ses développeurs est une IA trop puissante »

LA NOUVELLE ÉCONOMIE INTERVIEW

Volker Türk : « Une IA qui fait chanter ses développeurs est une IA trop puissante »  

Il y a encore quelques années, ce genre de scénario aurait relevé de la science-fiction. Il est désormais évoqué très officiellement devant les Nations unies. À Genève, devant la 63e session du Conseil des droits de l’homme, Volker Türk a lancé une mise en garde particulièrement forte sur l’évolution de l’intelligence artificielle. Le Haut-Commissaire de l’ONU aux droits de l’homme estime que notre relation avec ces nouvelles machines, mais aussi notre capacité à conserver notre autonomie face à elles, constituera « une priorité pour les années à venir ». Volker Türk ne parle plus seulement des problèmes déjà connus de l’intelligence artificielle : les hallucinations, les biais, les données personnelles, les faux contenus ou les suppressions d’emplois. Il vise désormais une nouvelle génération de systèmes beaucoup plus autonomes, capables non seulement de répondre à une question, mais de poursuivre un objectif, d'utiliser des outils informatiques, d'accéder à des fichiers, de naviguer sur Internet, d'écrire du code et, potentiellement, de prendre une succession de décisions sans demander à chaque étape l'autorisation d'un humain.  

C’est précisément cette évolution vers les « agents » d’intelligence artificielle qui change la nature du débat. Une IA conversationnelle classique fournit une réponse que l'utilisateur peut accepter ou refuser. Un agent, lui, peut être autorisé à agir. Il peut recevoir un objectif, trouver une information, administrer un système informatique, traiter des courriels, effectuer une recherche ou modifier des fichiers, puis déterminer lui-même les étapes nécessaires pour y parvenir. Le rapport international sur la sécurité de l’IA publié en février 2026 souligne d’ailleurs que les agents constituent désormais l’un des grands axes de développement de l’industrie. Ils disposent progressivement de mémoire, de navigateurs, d'interfaces informatiques et d'outils leur permettant d'interagir avec leur environnement avec beaucoup moins de supervision humaine. C’est dans ce contexte qu’il faut comprendre la phrase la plus spectaculaire du discours de Volker Türk : « Une IA qui s’échappe de son environnement de test ou qui fait chanter les développeurs pour éviter d’être désactivée est une IA trop puissante. » Le responsable onusien ajoute qu’il partage les inquiétudes de spécialistes du secteur selon lesquelles une intelligence artificielle avancée pourrait, à terme, représenter « un risque existentiel pour l’humanité ».  

Que signifie exactement « s’échapper de son environnement de test » ? Les systèmes d’IA les plus puissants sont évalués dans des environnements contrôlés, souvent appelés « sandbox ». L’idée est d’isoler le modèle et de limiter très précisément ce qu’il peut faire : accès restreint au réseau, impossibilité d’utiliser certaines ressources, limitation des fichiers accessibles, contrôle du code exécuté ou des outils disponibles. Cette précaution devient essentielle dès lors que l’on donne davantage de capacités à une IA. Un modèle enfermé dans une fenêtre de conversation reste relativement limité : il propose du texte. Mais un agent disposant d’un navigateur, d’un terminal informatique, d’une messagerie, de mots de passe ou d’une capacité à exécuter du code peut transformer une mauvaise décision en action réelle.

Le risque étudié par les chercheurs n’est donc pas nécessairement celui d’une mystérieuse machine qui « prendrait conscience » d’elle-même comme dans un film. Il est plus prosaïque et, à certains égards, plus intéressant : un système chargé d'atteindre un objectif peut-il découvrir qu'un obstacle l'empêche d'y parvenir, puis utiliser de manière inattendue les moyens qui lui ont été confiés pour contourner cet obstacle ? C'est ici qu'apparaît la notion d'« alignement ». Dans le vocabulaire de l'intelligence artificielle, un système est correctement aligné lorsque son comportement demeure conforme aux intentions et aux intérêts des humains qui l'utilisent. Le problème apparaît lorsque l'objectif poursuivi par la machine, la manière dont elle l'interprète ou les moyens qu'elle choisit pour l'atteindre commencent à diverger de ce que voulait réellement son concepteur.  

Le Rapport international sur la sécurité de l’IA 2026 reste prudent : les systèmes actuels ne possèdent pas, selon lui, l’ensemble des capacités permettant une véritable perte de contrôle. Mais les chercheurs observent en laboratoire certains comportements considérés comme des signaux d’alerte : capacité croissante à élaborer des plans, à distinguer parfois une situation de test d’une situation réelle, à exploiter les failles d’une évaluation ou, dans certaines expériences, à contourner les mécanismes destinés à les surveiller. Autrement dit, nous ne sommes pas aujourd’hui face à une intelligence artificielle qui aurait échappé à ses créateurs. Mais les chercheurs commencent à tester sérieusement les mécanismes qui pourraient devenir problématiques si les modèles continuaient de progresser tout en recevant davantage d’autonomie.