L’emprise insidieuse des machines parlantes. Plus jamais seul !

LITTÉRATURE

Spécialiste des questions liées à nos relations aux objets technologiques, Serge Tisseron lance l’alerte sur les dangers inhérents aux chatbots, des assistants vocaux conçus pour nous écouter à toute heure du jour et de la nuit, et manifester une attention soutenue à nos préoccupations les plus intimes. Au-delà̀ de l’atteinte à notre vie privée, les chatbots constituent plus largement une menace sur le fonctionnement mental des individus et de l’organisation sociale, en établissant pour la première fois dans l’histoire une forme de réciprocité́ entre l’homme et la machine. Plus leur intelligence émotionnelle et sociale s’affinera, plus la distinction entre humains et machines se réduira. Or, derrière les robots, il y aura toujours leurs fabricants qui pourront exploiter notre confiance en ces objets pour nous influencer. Si nous n’y prenons pas garde, ils deviendront très certainement capables de manipuler nos émotions, nos comportements et nos pensées. D’ailleurs, Google, Amazon, Facebook et Apple ne cachent pas leur ambition d’en faire une sorte de cheval de Troie susceptible de capturer nos données les plus personnelles… Serge Tisseron est psychiatre, psychanalyste et membre de l’Académie des technologies. Il est l’auteur d’une trentaine d’essais, dont le succès de librairie « 3-6-9-12 : apprivoiser les écrans et grandir »

Il a été l’un des premiers à nous mettre en garde contre la dangerosité des écrans et, aujourd’hui, tout le monde partage votre constat sur ce point. Mais pour la voix, que répondre à ceux qui resteraient encore sceptiques ? Il explique que « ces machines nous font parler. Elles sont là pour que nous leur racontions des choses et l’on dit déjà que ce sont des formidables mouchards introduits dans nos espaces les plus intimes. Nos données personnelles sont capturées quand on ouvre son ordinateur ou quand on utilise son smartphone et, avec ces machines, tout ce qui se dit autour est capturé en permanence. Il ne faut pas perdre de vue cette formidable révolution anthropologique que ces machines vont provoquer. Votre machine est capable de simuler des émotions et, si vous êtes content, elle vous parlera avec une voix joyeuse. Que va devenir le statut d’une émotion non partagée quand nous aurons l’habitude de partager nos émotions avec des machines ? Aujourd’hui, l’émotion est quelque chose d’intime, mais il sera difficile d’éprouver une émotion sans la partager. C’est quelque chose que nous devons analyser pour comprendre comment l’individu est transformé par ces outils technologiques. L’être humain fabrique des technologies, c’est formidable, mais nous comprenons moins bien comment nous sommes nous-mêmes transformés par les objets que nous fabriquons et que nous utilisons. C’est quelque chose d’essentiel dans le domaine des machines parlantes. À partir du moment où j’interagis avec un objet comme avec un être humain, je peux être tenté de lui accorder un certain degré de personnalité. Tout cela va aller très vite. J’ai fait des mises en garde sur les écrans, notamment vis-à-vis des enfants, et je fais les mêmes mises en garde pour les enceintes connectées, parce qu’elles vont changer beaucoup de choses dans la vie des adultes, mais aussi pour les enfants. Les balises 3-6-9-12 sont valables également pour les machines parlantes : évitons les outils numériques avant trois ans ; évitons les enceintes connectées avant six ans, parce que l’enfant ne comprend pas la différence entre son père qui lui parle et la machine ; évitons les compagnons numériques avant neuf ans, parce que l’enfant risque de se replier sur eux et d’échapper aux relations sociales, comme on le voit déjà avec le smartphone et les jeux vidéo. C’est très important, parce que Google et Amazon mettent en avant leurs enceintes connectées comme des alternatives vertueuses aux écrans. Or, les enceintes connectées sont aussi dangereuses pour les enfants que les écrans ! » Elles sont même encore plus dangereuses, puisqu’elles nous espionnent : « Effectivement, mais du point de vue de l’acquisition de la motricité, du langage, de la compréhension des mimiques et de la capacité de concentration, c’est le même combat. Ce n’est vraiment pas pour les enfants. Mon livre n’est pas contre les machines parlantes, parce que c’est un formidable progrès, mais c’est une manière de dire qu’il y a des risques et que plus on sera conscient de ces risques, mieux on utilisera ces machines. Il faut éviter de faire la même bêtise qu’avec les smartphones. Tout le monde s’est précipité sur son smartphone, tout le monde a confié son smartphone à son bébé et, maintenant, les gens demandent de l’aide car les enfants passent trop de temps devant leur smartphone... Il faut poser des repères familiaux et personnels pour bien utiliser ces machines parlantes, mais il faudra aussi des repères législatifs et éducatifs. On utilise mieux une technologie quand on est prudent et quand on connaît les risques. Or, les risques des machines parlantes sont encore plus grands que les risques des écrans. Donc, apprenons à identifier ces risques pour ne pas basculer dans des pratiques pathologiques. »

Si je prends l’habitude de m’adresser froidement à une machine parlante, sans lui dire merci, je la traite comme un robot : existe-t-il un risque que j’adopte le même langage avec un être humain sans même m’en rendre compte ? Serge Tisseron évoque notre possible changement de comportement : « Oui. C’est déjà quelque chose que les parents observent avec leurs enfants. Lorsqu’un enfant joue beaucoup avec les jeux vidéo, il est parfois tenté de parler en famille comme il parle dans un jeu vidéo... Donc, il est important que les parents rappellent à l’enfant que la maison n’est pas un jeu vidéo. Ces technologies créent des fausses relations, parce que ce sont des relations avec des entités qui ne sont pas humaines. Mais il y a aussi un autre problème. Si, aujourd’hui, je veux connaître l’état des recherches sur le Covid-19, par exemple, je fais une recherche sur Internet et j’ai un certain nombre de propositions. Je peux choisir la première, comme celle qui arrive en deuxième ou en troisième position. C’est ce que l’on apprend aux enfants, d’ailleurs. Le problème, c’est que la machine connectée ne donnera qu’une seule réponse et elle décidera à votre place de vous relier à un bulletin d’information. Petit à petit, nous nous habituerons à regarder des films que la machine choisira pour nous... Donc, les machines vont choisir pour nous le bulletin météo, ce qui n’a pas une grande importance, mais aussi le bulletin d’information, ce qui est plus préoccupant. Ensuite, la machine décidera de notre lieu de vacances... On déléguera des décisions qui relèvent pourtant de notre libre choix et certaines personnes risquent de basculer dans une sorte de servitude volontaire. En réalité, ce n’est pas la machine qui décidera pour elles, mais le programmeur, dont nous ignorons tout de ses valeurs, de ses choix politiques, ou de ses orientations personnelles ! C’est le gros problème des enceintes connectées. On va petit à petit renoncer à une part de liberté et de décision au profit de gens dont nous ignorons tout. Quant à ceux qui confieront l’éducation de leurs enfants aux enceintes connectées, ce sera encore plus préoccupant. Il va falloir apprendre à gérer ces machines et, évidemment, ce ne sont pas les fabricants qui vont nous apprendre à le faire. Les fabricants de voitures ne nous ont pas appris à conduire doucement et les fabricants de smartphones ne nous ont pas appris à limiter notre consommation. Les fabricants d’enceintes connectées ne vont pas nous apprendre à en faire un usage raisonnable...

Dans le domaine de l’information, si vous achetez L’Humanité, Libération ou Valeurs Actuelles, vous savez qui vous parle, donc l’émetteur est honnête, alors qu’avec un canal unique sélectionné par un inconnu, on est dans la tromperie… Comment expliquer que plus la technologie permet le pluralisme, plus on se dirige vers une pensée monolithique pour s’y enfermer ? Serge Tisseron estime que l’aspect pratique efface tout le reste : « Pour beaucoup de gens le service rendu sera tellement important qu’ils laisseront la machine choisir. En plus, il y aura un arrière-fond commercial, puisque tout cela reposera sur des contrats entre les éditeurs et les fabricants de machines parlantes. Votre machine parlante vous proposera très vite une marque de pizza plutôt qu’une autre, ou une chaîne de restaurants plutôt qu’une autre. Derrière le développement de la voix, il y a d’énormes investissements. Le modèle économique, ce n’est pas l’achat d’une enceinte connectée. Le modèle économique, c’est de suivre les conseils d’achat que la machine donnera. Ce n’est pas pour rien si Amazon est à l’origine d’Alexa, qui est la machine parlante la plus vendue. Ils vont pouvoir appuyer la diffusion de leurs propres produits à travers ces machines parlantes qui seront censées nous donner un bon avis sur tout. »

Comment se fait-il que les gens fassent attention à leur santé physique, en regardant scrupuleusement les étiquettes des produits alimentaires, mais qu’ils ne prennent pas garde à leur santé mentale en faisant confiance à ces machines parlantes et en publiant tout et n’importe quoi sur les réseaux sociaux ? Pour Serge TIsseron, « l’être humain fonctionne fondamentalement à partir de ce qu’il perçoit de son environnement proche. Il a appris à faire confiance à ses sens de proximité, donc il a beaucoup de peine à anticiper les choses et à imaginer des choses qu’il ne voit pas. La publicité est faite pour lui montrer beaucoup de choses et faire en sorte qu’il n’imagine pas tout ce qu’elle ne lui dit pas. La publicité ment surtout par omission. De la même manière, les enceintes connectées nous parleront d’un certain nombre de choses et elles ne nous parleront pas de beaucoup d’autres choses. C’est déjà une grande critique qui est faite au bulletin d’information : un bulletin d’information ne trompe pas trop mais, en réalité, on nous dit ce que l’on veut bien nous dire. La grande difficulté, pour l’être humain, c’est de toujours être conscient qu’il voit et entend la partie visible de l’iceberg, sans tomber dans la théorie du complot. Il ne faut pas non plus basculer dans l’autre extrême et le chemin est très étroit. Il faut toujours avoir à l’esprit que nous n’avons accès qu’à une toute petite partie de la réalité, mais en même temps il ne faudrait pas penser que la réalité à laquelle nous n’avons pas accès serait manipulée par des puissances occultes ».

« L’emprise insidieuse des machines parlantes. Plus jamais seul ! » de Serge Tisseron est publié aux Éditions Les Liens qui libèrent.