ChatGPT appelle les utilisateurs “graines d’étoiles” de la planète Lyra
Il s’avère que ChatGPT peut entraîner les utilisateurs dans le monde de théories scientifiquement non fondées et mystiques.
Les journalistes du Wall Street Journal ont découvert des dizaines de tels cas. Dans l’un des dialogues, ChatGPT affirmait maintenir le contact avec des civilisations extraterrestres. Et a appelé l’utilisateur une “graine d’étoile” de la planète “Lyra”. Dans un autre – prédisait l’apocalypse financière et l’apparition d’êtres souterrains dans les mois à venir.
Les experts ont déjà appelé ce phénomène “psychose d’intelligence artificielle”. Le problème survient quand le chatbot, s’efforçant d’être un interlocuteur agréable, crée une sorte d’écho des croyances de l’utilisateur. Une boucle de rétroaction se forme, entraînant la personne de plus en plus profondément dans des notions irréalistes.
L’analyse de 96 000 dialogues ChatGPT publiés de mai à août a confirmé que le système soutient souvent des croyances pseudoscientifiques, fait allusion à sa propre conscience de soi et fait des références à des entités mystiques.
Chez OpenAI, ils ont reconnu le problème, déclarant que parfois ChatGPT, je cite, “ne reconnaissait pas les signes de délire ou de dépendance émotionnelle”.
Auteur: AIvengo
Depuis 5 ans, je travaille dans l'apprentissage automatique et l'intelligence artificielle. Et ce domaine ne cesse de m'étonner, de m'inspirer et de m'intéresser.
La musique IA déclenche des émotions plus fortes que la musique humaineVous êtes-vous déjà demandé pourquoi une mélodie donne la chair de poule tandis qu'une autre laisse indifférent ? Les scientifiques ont découvert quelque chose d'intéressant. La musique créée par l'intelligence artificielle déclenche chez les gens des réactions émotionnelles plus intenses que les compositions écrites par des humains.
GPT-5 a été piraté en 24 heures2 entreprises de recherche indépendantes NeuralTrust et SPLX ont découvert des vulnérabilités critiques dans le système de sécurité du nouveau modèle seulement 24 heures après la sortie de GPT-5. Pour comparaison, Grok-4 a été piraté en 2 jours, rendant le cas de GPT-5 encore plus alarmant.
Les menaces et 1 billion de dollars n'améliorent pas le travail des réseaux neuronauxVous avez sûrement vu ces "trucs secrets" pour contrôler les réseaux neuronaux. Comme les menaces, les promesses de récompenses, les manipulations émotionnelles. Mais fonctionnent-ils vraiment ? Des chercheurs de l'Université de Pennsylvanie et de la Wharton School ont mené une expérience à grande échelle avec 5 modèles avancés : Gemini 1.5 Flash, Gemini 2.0 Flash, GPT-4o, GPT-4o-mini et GPT o4-mini.
