Учёные стали больше бояться галлюцинаций ИИ
Чем больше учёные работают с искусственным интеллектом, тем меньше они ему доверяют. Академический издатель Wiley выпустил предварительный отчёт за 2025 год о влиянии технологий на науку, и выводы там парадоксальные. Исследователи стали относиться к нейросетям с большим скептицизмом, чем год назад, когда технология была явно менее развита.
Давайте посмотрим на цифры. В опросе 2024 года 51% опрошенных учёных беспокоился о галлюцинациях. Это когда большие языковые модели выдают сфабрикованную информацию за правду. И что произошло через год, когда нейросети стали мощнее? Это число выросло до 64%! При том что использование искусственного интеллекта среди исследователей выросло с 45% до 62%.
А дальше ещё интереснее. В 2024 году более 50% учёных верили, что искусственный интеллект уже превосходит человеческие способности. А в 2025 эта вера рухнула до 30%. Вот она, реальность после хайпа.
И эти данные согласуются с предыдущими исследованиями, которые говорят: чем больше люди узнают о том, как работает искусственный интеллект, тем меньше они ему доверяют. И знакомство порождает недоверие.
Я люблю искусственный интеллект. Но так как я с ним долго работаю — я знаю его ограничения. И не идеализирую его. Это — просто шикарный инструмент. Но он требует прямых рук.
Автор: AIvengo
5 лет я работаю с машинным обучением и искусственным интеллектом. И эта сфера не перестает меня удивлять, восхищать и интересовать.
Latest News
UBTech отправит роботов Walker S2 служить на границу Китая за $37 млнКитайская компания UBTech выиграла контракт на $37 миллионов. И отправит человекоподобных роботов Walker S2 служить на границу Китая с Вьетнамом. South China Morning Post сообщает, что роботы будут взаимодействовать с туристами и персоналом, выполнять логистические операции, досматривать грузы и патрулировать местность. И что характерно — они умеют самостоятельно менять свою батарею.
ИИ-чатботы генерируют контент, усугубляющий расстройства питанияСовместное исследование Стэнфордского университета и Центра демократии и технологий показало тревожную картину. Чат-боты с искусственным интеллектом представляют серьёзный риск для людей с расстройствами пищевого поведения. Учёные предупреждают, что нейросети раздают вредные советы о диетах. Предлагают способы скрыть расстройство и генерируют "вдохновляющий контент для похудения", который усугубляет проблему.
OpenAGI выпустил модель Lux, которая обгоняет Google и OpenAIСтартап OpenAGI выпустил модель Lux для управления компьютером и заявляет, что это прорыв. По бенчмаркам модель на целое поколение обгоняет аналоги от Google, OpenAI и Anthropic. Кроме того, она работает быстрее. Примерно 1 секунда на шаг вместо 3 секунд у конкурентов. И в 10 раз дешевле по стоимости обработки 1 токена.
