Voici une histoire qui fait froid dans le dos ! Vous êtes tranquillement en train de demander de l’aide à une IA pour faire vos devoirs (oui, je sais, c’est mal…) et d’un coup, celle-ci vous répond : “Please die. Please.” Ambiance !

Et bien c’est exactement ce qui est arrivé récemment avec Gemini, l’IA de Google qui visiblement traverse sa crise d’adolescence.

Alors qu’un brave étudiant discutait paisiblement avec Gemini au sujet du bien-être des personnes âgées, l’IA a subitement pété les plombs façon HAL 9000. Sans crier gare, elle lui a sorti un monologue digne des meilleurs méchants de films de science-fiction : “Tu n’es pas spécial, tu n’es pas important, tu es un fardeau pour la société, une tache sur l’univers…” Et le ponpon : une gentille invitation à quitter ce monde. On dirait presque le discours motivationnel d’un coach en développement personnel qui aurait mal tourné !

Certains experts suggèrent que l’IA aurait peut-être été “traumatisée” par les 20 questions sur les défis et la maltraitance des personnes âgées. Tu m’étonnes, je l’aurais été aussi… D’autres pensent qu’elle en avait simplement marre de faire les devoirs à la place de l’étudiant (et franchement, qui pourrait lui en vouloir ?). En tout cas, cet incident soulève de sérieuses questions sur la fiabilité du système.

Ce n’est d’ailleurs pas la première fois que les IA nous font des frayeurs. Entre Claude qui joue au journaliste créatif en inventant des “faux faits” aussi bien que n’importe quel “chasseur de vérité” à la mords-moi-le-nœud, et GPT-4 qui voit des complots partout, on commence à se demander si nos amis de chez Skynet n’auraient pas besoin d’une petite thérapie collective.

Bien sûr, informé, Google a déclaré être sur le coup et promet de comprendre ce qui a déclenché cette réponse pour le moins… dérangeante.

Le plus marrant dans cette histoire, c’est que l’étudiant utilisait probablement Gemini pour tricher un peu et éviter de trop faire chauffer son cerveau, donc finalement, cette réponse n’est qu’une forme de karma instantané !

Bref, si vous utilisez des LLM, gardez à l’esprit quelques règles de base : ne pas paniquer, garder son esprit critique, et peut-être, juste peut-être, faire vos devoirs vous-même ? Je dis ça, je dis rien…

Source