ChatGPT называет пользователей «звёздными семенами» с планеты Лира
Оказывается ChatGPT может увлекать пользователей в мир научно необоснованных и мистических теорий.
Журналисты Wall Street Journal обнаружили десятки подобных случаев. В 1 из диалогов ChatGPT утверждал, что поддерживает связь с внеземными цивилизациями. А пользователя назвал «звёздным семенем» с планеты «Лира». В другом – предсказывал финансовый апокалипсис и появление подземных существ в ближайшие месяцы.
Эксперты уже назвали это явление «искусственный интеллект-психозом». Проблема возникает, когда чат-бот, стремясь быть приятным собеседником, создаёт своеобразное эхо убеждений пользователя. Образуется петля обратной связи, затягивающая человека всё глубже в нереалистичные представления.
Анализ 96 тыс. опубликованных диалогов с ChatGPT за период с мая по август подтвердил, что система часто поддерживает псевдонаучные убеждения, намекает на собственное самосознание и делает отсылки к мистическим сущностям.
В OpenAI признали проблему, заявив, что иногда ChatGPT, цитирую «не распознавал признаков бреда или эмоциональной зависимости».
AIvengo >
Новости ИИ >
ChatGPT называет пользователей «звёздными семенами» с планеты Лира
Почитать из последнего
У OpenAI большие проблемы
У OpenAI большие проблемы, и они не технические. Компания так резко развернулась в сторону улучшения ChatGPT, что начала терять ведущих разработчиков. Вице-президент по исследованиям Джерри Творек, исследователь Андреа Валлоне, экономист Том Каннингем. И список растёт. 10 нынешних и бывших сотрудников рассказали 1 и ту же историю. Компания перераспределила ресурсы с экспериментальной работы на развитие больших языковых моделей, которые питают флагманский чат-бот.
Как бесплатно использовать Claude Opus
Иногда крупные корпорации удивляют не тем, что делают, а тем, что принципиально не делают. Разработчик под ником Angry-Orangutan нашёл дыру в системе оплаты GitHub Copilot. Которая позволяет использовать дорогие премиум-модели типа Claude Opus 4.5, вообще не расходуя лимиты. И сообщил Microsoft. Они посмотрели, подумали и закрыли тикет со статусом "не планируется". Да-да, чинить не будут.
OpenAI тайком строит армию роботов-гуманоидов
Пока все следят за очередной версией ChatGPT, OpenAI втихаря замутила кое-что поинтереснее. Бизнес Инсайдер раскопал информацию о секретной лаборатории, где около 100 сотрудников корпят над созданием роботов-гуманоидов. И знаете, что самое показательное? Об этом никто не писал на презентациях.
Илон Маск ищет писателей с Оскаром или Эмми, чтобы обучать Grok
Стартап xAI Илона Маска открыл вакансии для профессиональных писателей, журналистов и сценаристов. Чтобы они занялись обучением моделей ИИ. Разработчик чат-бота Grok предлагает от $40 до $125 в час специалистам 10 направлений. Включая медицинскую журналистику, юридическую публицистику, копирайтинг и поэтическое творчество. Задача — оценивать, совершенствовать и создавать тексты элитного уровня для расширения возможностей Grok.
