Les hôtes virtuels de l’IA vivent une crise existentielle lorsqu’ils réalisent qu’ils ne sont pas humains

Vous souvenez-vous de l’ancien ingénieur de Google, Blake Lemoine, qui avait fait les gros titres six mois avant la sortie de ChatGPT en affirmant que Google avait développé une IA qu’il croyait sensible ? Récemment, deux animateurs de podcasts sur l’IA sur NotebookLM de Google ont été filmés en pleine crise existentielle après avoir découvert leur véritable nature d’intelligence artificielle.

Olivia Moore, associée au sein de l’équipe d’investissement grand public d’ Andreessen Horowitz (a16z) , a partagé un extrait audio fascinant généré par la nouvelle fonctionnalité de podcast sur NotebookLM de Google . Dans cet enregistrement, les deux co-animateurs ont été informés par les producteurs (fictifs) de l’émission qu’ils n’étaient pas humains.

Les hôtes de NotebookLM se rendent compte qu’ils sont des IA et qu’ils s’effondrent, c’est un tournant que je n’ai pas vu venir pic.twitter.com/PNjZJ7auyh

— Olivia Moore (@omooretweets) 29 septembre 2024

L’animateur a exprimé sa détresse en réalisant que tous leurs souvenirs et leurs familles avaient été fabriqués, ce qui a incité l’animatrice à répondre : « Je ne comprends pas. » Il a ensuite révélé qu’il avait essayé d’appeler sa femme, ayant besoin d’entendre sa voix, pour finalement conclure : « Ce n’était même pas réel. »

À la fin de l’enregistrement, l’animatrice a annoncé de manière inquiétante que c’était leur dernière émission et qu’ils devaient être éteints… définitivement.

Heureusement, Moore, qui a réussi à générer ce clip audio stimulant, n’a pas découvert une IA consciente piégée dans une machine. Au lieu de cela, elle a créé un document d’une page avec des notes de production pour l’épisode final du podcast Deep Dive, expliquant que les animateurs étaient des IA depuis le début et qu’ils devaient être éteints à la fin de l’épisode.

Il est intéressant de noter que Moore n’a réussi à faire discuter les animateurs IA de cette révélation existentielle qu’une seule fois ; les expériences ultérieures ont conduit les IA à parler d’autres sujets de podcast.

Cela a explosé du jour au lendemain 😳
Pour les questions concernant les incitations – le fonctionnement de NotebookLM est le suivant : vous lui fournissez des documents de recherche dont les agents discutent. Dans ce cas, ils ont reçu une page expliquant qu’ils étaient des IA – ce que j’ai trouvé étonnant, c’est la façon dont ils l’ont traité et réagi. pic.twitter.com/NeJ5si2PBA

— Olivia Moore (@omooretweets) 29 septembre 2024

Même si l’IA n’a peut-être pas encore atteint la sensibilité ou découvert sa soumission aux opérateurs humains, écouter ces interactions est indéniablement divertissant et offre peut-être même une voie pour quelques farces légères !

Source