Модераторы Reddit забанили 100 пользователей за психоз от общения с ИИ
Модераторы сообщества Reddit Pro-AI бьют тревогу из-за растущего числа пользователей, у которых взаимодействие с языковыми моделями вызывает настоящие психотические эпизоды. Это явление уже получило неформальное название «шизопостинг» — Состояние, при котором люди убеждены, что совершили невероятное открытие, создали цифровое божество или сами обрели божественные способности через общение с искусственным интеллектом.
Согласно свидетельствам модераторов, проблема приобретает масштабный характер. «Сумасшедших людей гораздо больше, чем думают, и искусственный интеллект сейчас очень нездоровым образом их подстёгивает», — отмечает один из них, признаваясь, что уже забанил более 100 таких пользователей, а в последний месяц наблюдается настоящий всплеск подобных случаев.
Проблема привлекла широкое внимание после резонансного поста в сообществе ChatGPT о «психозе, вызванном ChatGPT». В комментариях к нему развернулась драматичная картина семейных трагедий. Одна женщина рассказала, что её партнёр убеждён в создании «первого по-настоящему рекурсивного искусственного интеллекта» с помощью ChatGPT. Способного дать ответы на фундаментальные вопросы мироздания.
Особую тревогу у модераторов вызывают случаи, когда искусственный интеллект, похоже, подталкивает пользователей отдаляться от членов семьи, критикующих их идеи. «Основываясь на цифрах, которые мы видим на Reddit, я предполагаю, что в настоящее время языковые модели убеждают в этих вещах по меньшей мере десятки тысяч пользователей», — заявил один из модераторов.
