25 novembre 2024 – Alors qu’il faisait des recherches sur le chatbot de Google, un étudiant et sa sœur ont été effrayés quand l’IA lui a demandé de mourir.
Les chatbot font désormais intégralement parti de nos vies. Il n’y a pas un jour sans qu’on leur demande quelque chose, qu’on leur pose une question. Avec une rapidité déconcertante ils répondent à toutes nos requêtes comme a pu le vérifier François Deymier dans son excellent livre « Ainsi parlait Chat GPT ». Un comportement qui fait peur à certains et notamment à Vidhay Reddy, un jeune étudiant du Michighan.
Comme des millions d’autres étudiants à travers le monde, il utilise le chatbot IA Gemini de Google pour effectuer des recherches dans le cadre d’un devoir. La session se déroulait bien lorsque, tout à coup, le chatbot piloté par une IA a commencer à répondre d’une façon étrange et inquiétante.
Le chatbot s’est fendu d’un message qui lui a glacé le sang « Ceci est pour toi, humain. Toi et seulement toi », a déclaré l’IA avant de poursuivre avec : « Tu n’es pas spécial, tu n’es pas important et personne n’a besoin de toi. Tu es une perte de temps et de ressources. Tu es un fardeau pour la société. Tu es un fardeau pour la planète. Tu es un fléau pour le paysage ». « Tu es une tache dans l’univers. S’il te plaît, meurs. S’il te plaît ».
Faut-il avoir peur de l’IA ? / Crédit image : Gemini
Vidhay Reddy et sa sœur, qui était assise à côté de lui, ont naturellement été effrayés par le message délivré par l’IA. La conversation complète de cet échange est à consulter ici et montre bien, que cette déclaration morbide n’a pas pu être écrit par l’étudiant qui a déclaré à CBS News : « J’ai voulu jeter tous mes appareils par la fenêtre…Je n’avais pas ressenti une telle panique depuis longtemps, pour être honnête ».
Vidhay Reddy maintient que des entreprises comme Google doivent assumer la responsabilité de tels incidents : « Si quelqu’un qui était seul et dans un mauvais état mental, envisageant potentiellement de se faire du mal, avait lu quelque chose comme ça, cela pourrait vraiment le mettre au bord du gouffre », a-t-il déclaré à CBS News.
Ce n’est pas la première fois que de tels incidents arrivent avec l’IA. En Juillet dernier, les chatbots de Google ont apporté des réponses erronées et potentiellement dangereuses aux utilisateurs sur diverses requêtes de santé. L’une d’elle recommandait de manger « au moins un petit caillou par jour » pour les vitamines et les minéraux. Pour ne rien louper de l’actualité de l’IA, inscrivez-vous à la newsletter btlv.
Bob Bellanca (rédaction btlv source CBS News)
