ChatGPT называет пользователей «звёздными семенами» с планеты Лира
Оказывается ChatGPT может увлекать пользователей в мир научно необоснованных и мистических теорий.
Журналисты Wall Street Journal обнаружили десятки подобных случаев. В 1 из диалогов ChatGPT утверждал, что поддерживает связь с внеземными цивилизациями. А пользователя назвал «звёздным семенем» с планеты «Лира». В другом – предсказывал финансовый апокалипсис и появление подземных существ в ближайшие месяцы.
Эксперты уже назвали это явление «искусственный интеллект-психозом». Проблема возникает, когда чат-бот, стремясь быть приятным собеседником, создаёт своеобразное эхо убеждений пользователя. Образуется петля обратной связи, затягивающая человека всё глубже в нереалистичные представления.
Анализ 96 тыс. опубликованных диалогов с ChatGPT за период с мая по август подтвердил, что система часто поддерживает псевдонаучные убеждения, намекает на собственное самосознание и делает отсылки к мистическим сущностям.
В OpenAI признали проблему, заявив, что иногда ChatGPT, цитирую «не распознавал признаков бреда или эмоциональной зависимости».
AIvengo >
Новости ИИ >
ChatGPT называет пользователей «звёздными семенами» с планеты Лира
Почитать из последнего
В Siri обнаружили поддержку сторонних языковых моделей
Apple оставила в iOS 27 и macOS Golden Gate механизмы, которые позволяют подключать к Siri сторонние большие языковые модели. Датамайнер pdfu проверил их на практике и смог связать ассистента с Claude от Anthropic, а серверную модель Siri заменить на GPT-5.6 Terra от OpenAI.
Музыку российских звёзд нашли в открытых датасетах
ИИ учится на миллионах файлов, и иногда в этих массивах обнаруживается контент, который никто не разрешал использовать. Теперь в открытых датасетах для обучения нейросетей нашли тысячи фрагментов музыкального контента российских исполнителей.
Claude объединил чат и Cowork в единую среду
Ещё недавно в Claude приходилось выбирать режим: быстрый вопрос - в чат, работа посложнее - в Cowork. Теперь Anthropic убирает эту границу: Claude Cowork и обычный чат объединяются.
Дженсен Хуанг не увидел смысла в новых законах для ИИ
Глава Nvidia Дженсен Хуанг призвал не замедлять развитие ИИ ради безопасности и заявил, что проблему нужно решать прежде всего инженерными методами. Выступая на Dreamforce, он сказал, что новые законы и правила не нужны: по его мнению, компании сами должны выпускать продукт только тогда, когда уверены в его безопасности, а рынок уже создаёт для этого необходимые стимулы.
