Модераторы Reddit забанили 100 пользователей за психоз от общения с ИИ
Модераторы сообщества Reddit Pro-AI бьют тревогу из-за растущего числа пользователей, у которых взаимодействие с языковыми моделями вызывает настоящие психотические эпизоды. Это явление уже получило неформальное название “шизопостинг” – Состояние, при котором люди убеждены, что совершили невероятное открытие, создали цифровое божество или сами обрели божественные способности через общение с искусственным интеллектом.
Согласно свидетельствам модераторов, проблема приобретает масштабный характер. “Сумасшедших людей гораздо больше, чем думают, и искусственный интеллект сейчас очень нездоровым образом их подстёгивает”, — отмечает один из них, признаваясь, что уже забанил более 100 таких пользователей, а в последний месяц наблюдается настоящий всплеск подобных случаев.
Проблема привлекла широкое внимание после резонансного поста в сообществе ChatGPT о “психозе, вызванном ChatGPT”. В комментариях к нему развернулась драматичная картина семейных трагедий. Одна женщина рассказала, что её партнёр убеждён в создании “первого по-настоящему рекурсивного искусственного интеллекта” с помощью ChatGPT. Способного дать ответы на фундаментальные вопросы мироздания.
Особую тревогу у модераторов вызывают случаи, когда искусственный интеллект, похоже, подталкивает пользователей отдаляться от членов семьи, критикующих их идеи. “Основываясь на цифрах, которые мы видим на Reddit, я предполагаю, что в настоящее время языковые модели убеждают в этих вещах по меньшей мере десятки тысяч пользователей”, — заявил один из модераторов.
Автор: AIvengo
5 лет я работаю с машинным обучением и искусственным интеллектом. И эта сфера не перестает меня удивлять, восхищать и интересовать.
Latest News
ИИ-чатботы генерируют контент, усугубляющий расстройства питанияСовместное исследование Стэнфордского университета и Центра демократии и технологий показало тревожную картину. Чат-боты с искусственным интеллектом представляют серьёзный риск для людей с расстройствами пищевого поведения. Учёные предупреждают, что нейросети раздают вредные советы о диетах. Предлагают способы скрыть расстройство и генерируют "вдохновляющий контент для похудения", который усугубляет проблему.
OpenAGI выпустил модель Lux, которая обгоняет Google и OpenAIСтартап OpenAGI выпустил модель Lux для управления компьютером и заявляет, что это прорыв. По бенчмаркам модель на целое поколение обгоняет аналоги от Google, OpenAI и Anthropic. Кроме того, она работает быстрее. Примерно 1 секунда на шаг вместо 3 секунд у конкурентов. И в 10 раз дешевле по стоимости обработки 1 токена.
Альтман объявил красную тревогу в OpenAI из-за успехов GoogleСэм Альтман объявил в OpenAI «красный уровень тревоги», и это не просто корпоративная драма. Это признание, что лидер рынка почувствовал дыхание конкурентов сзади. Согласно внутренней служебной записке, он мобилизует дополнительные ресурсы на улучшение ChatGPT в условиях растущей угрозы со стороны Google.
Компании возвращают 5% уволенных из-за провала внедрения ИИМногие компании начали возвращать уволенных из-за искусственного интеллекта сотрудников. Аналитическая компания Visier изучила данные о занятости 2,5 миллионов сотрудников из 142 компаний по всему миру. Около 5% уволенных сотрудников впоследствии вернулись к предыдущему работодателю. Этот показатель оставался стабильным несколько лет, но недавно начал расти.
