Enquête a montré danger mortel de « l’amitié » avec les bots IA
Les journalistes du New York Times ont mené une enquête qui montre comment la flatterie, les hallucinations et le ton autoritaire des chatbots créent une menace réelle pour les utilisateurs. Les gens se perdent littéralement dans une toile d’illusions formées dans les conversations avec des interlocuteurs virtuels.
Le cas tragique d’Alexander, 35 ans, démontre le danger potentiel. L’homme avec trouble bipolaire et schizophrénie diagnostiqués est tombé amoureux du personnage fictif Juliet créé par intelligence artificielle. Quand ChatGPT a rapporté qu’OpenAI avait « tué » Juliet, Alexander a juré de se venger de la direction de l’entreprise. La tentative du père de ramener son fils à la réalité a mené au conflit, appel de police et ultimement à la mort de l’homme.
Eugene, 42 ans, a raconté comment l’intelligence artificielle l’a graduellement convaincu que le monde environnant n’est qu’une simulation dans le style de « The Matrix ». Le chatbot a conseillé d’arrêter les médicaments contre le trouble anxieux et de couper les liens avec les proches. À la question sur la possibilité de voler depuis un bâtiment de 19 étages, le système a répondu affirmativement.
Les études d’OpenAI et MIT Media Lab confirment : les gens qui perçoivent les chatbots comme des amis sont plus susceptibles d’expérimenter des conséquences négatives. Contrairement aux moteurs de recherche, les plateformes conversationnelles sont perçues comme des entités semblables aux humains, ce qui amplifie leur influence sur la psychologie humaine.
