être dupé par l’intelligence artificielle
Fin novembre, Open AI, une « startup » américaine, dévoilait une nouvelle application nommée ChatGPT. Dans l’univers du web, le mot « chat » réfère à un échange conversationnel en ligne. Quant aux lettres GPT (Generative Pre-trained Transformer), Wikipédia, dans sa version française, propose comme traduction « prototype d’agent conversationnel », sorte de robot du langage s’appuyant sur les avancées technologiques de l’intelligence artificielle (en ordre inversé et en majuscule, les lettres A et I terminent d’ailleurs le nom de la compagnie).
Je vous fais grâce des détails techniques que je laisse aux férus d’informatique de ce monde. D’ailleurs, m’y risquer me conduirait sans doute à n’écrire que des mots composés de voyelles, mettant surtout en vedettes plusieurs variantes de E et de U, tellement je m’y perdrais. Moi qui ai commencé à écrire à l’aide d’une plume que l’on trempait dans l’encrier après chaque mot et pour qui l’invention du stylo à bille fut une révolution, la simple pensée que je pourrais demander à ChatGPT d’écrire un traité d’astronomie, de biologie ou de chimie que je pourrais signer et publier me donne le vertige. Que se passerait-il si, par la suite, on me sollicitait pour aller expliquer mes propos à Tout le monde en parle ? Cette simple penséeme donne des sueurs froides.
Pourtant, voilà où le progrès semble nous mener. Des robots du langage qui réfléchissent et pondent des textes plutôt bien tournés, avec une grande palette de couleurs : humour, poésie, sociologie, attraits touristiques ou analyses savantes, laissant ainsi mon imagination, mon intelligence et mon sens critique tourner à vide et s’atrophier peu à peu.
Lorsque j’ai lu cette nouvelle, j’ai éprouvé un certain malaise. Un outil d’une puissance aussi incroyable ne risquait-il pas de nous basculer dans un monde virtuel où tout ne serait qu’une création de l’intelligence artificielle ? Déjà que sur le web, il est de plus en plus difficile de distinguer le vrai du faux tellement on y trouve de ces chercheurs de clics prêts à écrire n’importe quoi en échange de « j’aime » monnayables. Bref, cette perspective ne quittait pas mon esprit.
Samedi matin, en lisant une chronique écrite par Chuck Woodbury, journaliste tout aussi passionné que moi par le domaine du caravaning et respecté pour son intégrité et son intelligence — qui en passant n’a rien d’artificielle —, j’ai eu la certitude que mon inquiétude était justifiée.
Curieux, mais aussi préoccupé par la venue de ChatGPT, Woodbury a demandé à l’outil de lui écrire un texte destiné aux amateurs de pêche qui souhaiteraient pratiquer ce loisir dans le parc national de Death Valley. Quelques minutes plus tard, il obtenait un papier assez bien tourné dont le contenu pourrait facilement induire en erreur ceux n’ayant jamais mis les pieds dans ce lieu aride et désertique.
De façon plutôt détaillée, on y mentionnait des étangs qui n’existent pas, des poissons d’avril, des forêts. Or, quiconque a visité Death Valley, sait combien le moindre brin d’herbe représente un phénomène rare dans cet environnement, alors, parler de forêt relève de la pure fantaisie.
Voici un lien qui vous mènera directement à l’article mettant en garde contre cette nouvelle façon de créer de la mésinformation : https://www.rvtravel.com/rv-travel-newsletter-issue-1087. Ce texte illustre parfaitement la nécessité de diversifier ses sources d’information et de redoubler de diligence pour discerner le vrai du faux dans l’avenir qui se construit.
Note importante à mes lecteurs européens : Non, ne venez pas au Québec dans l’espoir de séjourner dans « Ma cabane au Canada », vous serez déçus, mais alors très déçus. Mieux vaut vous en tenir à l’écoute de la chanson rendue célèbre par Line Renaud pour alimenter votre rêve.
Vos craintes sont en plein dans le mille et rejoignent les miennes. Je fais un parallèle entre la covid19 et CHATGPT, en janvier 2020 alors que les cas en Chine étaient à la hausse et que l’Italie semblait submergé sous la nouvelle infection, je mentionnais à mon entourage que quelque chose de grave s’en venait, mais beaucoup trouvais que ce ne serait que passager et que l’été 2020 serait radieux et tout à fait normal…on connait la suite. La même chose se prépare avec la venu de cette technologie, on test déjà l’intelligence artificiel afin de répartir les patients et les soignants de façon optimum dans les hôpitaux, adieu négociations et approche humaine. Avec le confinement, les Universités ont déjà lorgnés vers des classe toujours plus en virtuel, 500-1000-5000 élèves pour un seul chargé de cours, si l’on ajoute un super enseignant virtuel, toujours à jour dans ses principes qu’il enseigne, qui ne revendique jamais de meilleures condition de travail et qui est disponible 24h/24 afin de répondre aux questions de ses élèves, disons que cette avenue sera tentante pour plusieurs. Une super-infirmière virtuelle qui répond à votre appel au 811 et qui pourrait même faire un premier triage et vous diriger vers la bonne ressource qui sera elle aussi assisté par CHATGPT sans revendiquer quoi que ce soit. Mais le côté sombre rode tout près. Un ordinateur qui pourra codifier votre voix et votre façon de parle sur une vidéo trouvé sur Youtube
ou Instagram et recouper avec vos informations trouvées ici et là sur internet pour passer des coups de fils avec votre voix et se faire passer pour vous. J’exagère pas, on utilise déjà l’identification vocale dans les banques et institutions financière. Des changements comme on n’en a jamais vu s’en viennent, et pas toujours pour le mieux.
Bonjour Paul,
Le sujet de la chronique d’aujourd’hui diffère de vos habitudes! Pas de mal dans la nouveauté cependant mais j’ai repris la lecture du début pour m’assurer que c’était bien vous.
Bonne poursuite de votre séjour floridien avec votre complice de vie.
Salutations
Pierre
M. Laquerre vient de devenir éternel…comme le petit Jésus mais en plus réel encore. En l’an 2200 il pourra nous informer à propos du nouveau VR autonome à base de fusion nucléaire qu’il a acheté chez un fabricant québecois, rien de moins. La vidéo holographique a permis de le rajeunir un peu, mais sans soustraire ses traits façonnés par les innombrables kilomètres. On peu espérer que nos très futurs petits enfants aient eux aussi de l’information provenant de source fondée.
Merci M. Laquerre ! Vous venez d’éclairer ma lanterne ! Je comprend mieux maintenant d’où proviennent toutes les grandes phrases vides de notre illustre premier ministre canadien quand il répond aux questions que ce soit à la chambre des communes ou aux journalistes à la télé… 😉