Учёные стали больше бояться галлюцинаций ИИ

Post Thumbnail

Чем больше учёные работают с искусственным интеллектом, тем меньше они ему доверяют. Академический издатель Wiley выпустил предварительный отчёт за 2025 год о влиянии технологий на науку, и выводы там парадоксальные. Исследователи стали относиться к нейросетям с большим скептицизмом, чем год назад, когда технология была явно менее развита.

Давайте посмотрим на цифры. В опросе 2024 года 51% опрошенных учёных беспокоился о галлюцинациях. Это когда большие языковые модели выдают сфабрикованную информацию за правду. И что произошло через год, когда нейросети стали мощнее? Это число выросло до 64%! При том что использование искусственного интеллекта среди исследователей выросло с 45% до 62%.

А дальше ещё интереснее. В 2024 году более 50% учёных верили, что искусственный интеллект уже превосходит человеческие способности. А в 2025 эта вера рухнула до 30%. Вот она, реальность после хайпа.

И эти данные согласуются с предыдущими исследованиями, которые говорят: чем больше люди узнают о том, как работает искусственный интеллект, тем меньше они ему доверяют. И знакомство порождает недоверие.

Я люблю искусственный интеллект. Но так как я с ним долго работаю — я знаю его ограничения. И не идеализирую его. Это — просто шикарный инструмент. Но он требует прямых рук.

AIvengo > Блог > Учёные стали больше бояться галлюцинаций ИИ
Почитать из последнего
Учёные нашли идиотский способ улучшить ответы нейросетей
Исследователи из Google случайно наткнулись на абсурдный лайфхак, который реально работает. Если повторять промпт дважды — то есть отправлять запрос не в виде обычного текста, а копировать его 2 раза подряд — качество ответов модели в 67% случаев статистически значимо улучшается.
MIT выяснил, что ИИ уже может заменить 11% работников США
Массачусетский технологический институт опубликовал исследование, которое разрушает иллюзии о будущем работы. Искусственный интеллект уже сейчас способен заменить 11% рабочей силы США. Это 1 триллион долларов в зарплатах в год.
Алгоритмический прорыв: ИИ справился с задачей, непосильной для всех
GPT-5 с экспериментальной рассуждающей моделью от OpenAI решил все 12 задач престижнейшего Международного студенческого чемпионата по программированию ICPC!
Министерство Китая отчиталось о прорыве в области ИИ
Объём индустрии ИИ Китая превысил $142 миллиарда в 25 году. Об этом сообщило Министерство промышленности и информационных технологий на национальной конференции в Пекине. Ведомство назвало это прорывом в области промышленных технологических инноваций. Годом ранее этот показатель составлял на 40% меньше.
ИИ научился обучать ИИ лучше людей
В Nature опубликовали статью про то, как 1 ИИ учил другой. И получилось лучше, чем когда это делают люди. Вот вам и очередной гвоздь в крышку гроба человеческой исключительности.