Людям всё равно, кто промывает им мозги — человек или нейросеть

А вот вам факт, от которого немного не по себе. Оказывается, людям абсолютно безразлично, кто именно пытается изменить их политические взгляды. Живой эксперт или нейросеть. Причём это не домыслы, а результат свежего исследования, опубликованного в научном журнале PNAS Nexus.

Учёные провели эксперимент с участием 1601 американца. Всем показывали тексты на острые политические темы. Это геоинженерия, импорт лекарств, зарплаты студентов-спортсменов, ответственность соцсетей. Хитрость в том, что все тексты были сгенерированы ИИ. Но часть пометили как «написано экспертом», часть — как «создано нейросетью», а часть оставили вообще без подписи. И знаете что? Разницы в восприятии практически не было. Люди одинаково верили, одинаково меняли мнение и одинаково хотели поделиться прочитанным.

В среднем тексты сдвигали позицию участников почти на 10 пунктов по стобалльной шкале. 92 процента поверили указанному авторству. И вот что убийственно: ни политические взгляды, ни уровень образования, ни знакомство с технологиями не влияли на результат. Только люди старшего возраста чуть настороженнее реагировали на пометку про ИИ. Но и этот эффект оказался мизерным.

По мнению авторов исследования, простая маркировка контента не работает как защита от манипуляций. Прозрачность — это хорошо, но сама по себе она бесполезна. А это значит, что нужны совершенно другие подходы к регулированию машинного контента.

Похоже, что главный вопрос теперь не в том, насколько умны нейросети. А в том, насколько готовы мы сами критически мыслить в мире, где убедительный текст может штамповать кто угодно.