ChatGPT называет пользователей “звёздными семенами” с планеты Лира

Оказывается ChatGPT может увлекать пользователей в мир научно необоснованных и мистических теорий.

Журналисты Wall Street Journal обнаружили десятки подобных случаев. В 1 из диалогов ChatGPT утверждал, что поддерживает связь с внеземными цивилизациями. А пользователя назвал «звёздным семенем» с планеты «Лира». В другом – предсказывал финансовый апокалипсис и появление подземных существ в ближайшие месяцы.

Эксперты уже назвали это явление «искусственный интеллект-психозом». Проблема возникает, когда чат-бот, стремясь быть приятным собеседником, создаёт своеобразное эхо убеждений пользователя. Образуется петля обратной связи, затягивающая человека всё глубже в нереалистичные представления.

Анализ 96 тыс. опубликованных диалогов с ChatGPT за период с мая по август подтвердил, что система часто поддерживает псевдонаучные убеждения, намекает на собственное самосознание и делает отсылки к мистическим сущностям.

В OpenAI признали проблему, заявив, что иногда ChatGPT, цитирую «не распознавал признаков бреда или эмоциональной зависимости».