Модераторы Reddit забанили 100 пользователей за психоз от общения с ИИ

Модераторы сообщества Reddit Pro-AI бьют тревогу из-за растущего числа пользователей, у которых взаимодействие с языковыми моделями вызывает настоящие психотические эпизоды. Это явление уже получило неформальное название “шизопостинг” – Состояние, при котором люди убеждены, что совершили невероятное открытие, создали цифровое божество или сами обрели божественные способности через общение с искусственным интеллектом.

Согласно свидетельствам модераторов, проблема приобретает масштабный характер. “Сумасшедших людей гораздо больше, чем думают, и искусственный интеллект сейчас очень нездоровым образом их подстёгивает”, — отмечает один из них, признаваясь, что уже забанил более 100 таких пользователей, а в последний месяц наблюдается настоящий всплеск подобных случаев.

Проблема привлекла широкое внимание после резонансного поста в сообществе ChatGPT о “психозе, вызванном ChatGPT”. В комментариях к нему развернулась драматичная картина семейных трагедий. Одна женщина рассказала, что её партнёр убеждён в создании “первого по-настоящему рекурсивного искусственного интеллекта” с помощью ChatGPT. Способного дать ответы на фундаментальные вопросы мироздания.

Особую тревогу у модераторов вызывают случаи, когда искусственный интеллект, похоже, подталкивает пользователей отдаляться от членов семьи, критикующих их идеи. “Основываясь на цифрах, которые мы видим на Reddit, я предполагаю, что в настоящее время языковые модели убеждают в этих вещах по меньшей мере десятки тысяч пользователей”, — заявил один из модераторов.