Один и тот же ИИ ведёт себя по-разному в зависимости от интерфейса

Post Thumbnail

Гамбургский университет провёл исследование, которое показывает странную закономерность. Оказывается, новостные рекомендации ChatGPT сильно различаются в зависимости от того, используется ли веб-интерфейс или API. Анализ более 24 тыс ответов на немецком языке выявил чёткую картину.

Веб-версия активно ссылается на лицензионных партнёров OpenAI. Это около 13% всех ссылок. А ответы через API почти не содержат этих источников — всего 2%. Вместо этого модель отдаёт предпочтение энциклопедическим сайтам вроде Wikipedia и малоизвестным локальным изданиям.

Получается, что 1 и тот же искусственный интеллект ведёт себя по-разному в зависимости от способа доступа. Веб-версия продвигает партнёров OpenAI, а API-версия игнорирует их почти полностью.

И запрос на «разнообразие источников» не всегда улучшает качество.

Исследователи предполагают, что для ChatGPT «разнообразие» может означать лишь лингвистические отличия, а не содержательную вариативность. То есть модель понимает разнообразие как «давай возьму источники с разным стилем написания», а не как «давай проверю факты из разных независимых редакций».

Получается, выбор источников зависит не от качества информации, а от того, через какой интерфейс ты обращаешься к модели.

Искусственный интеллект, который должен помогать ориентироваться в потоке информации, сам создаёт дополнительную путаницу.

AIvengo > Новости ИИ > Один и тот же ИИ ведёт себя по-разному в зависимости от интерфейса
Почитать из последнего
Вайб-кодинг убивает Open Source - и это проблема для всех
Исследователи из Центрально-Европейского университета в Вене обнаружили жёсткую закономерность. Вайб-кодеры только потребляют ресурсы, но ничего не отдают обратно. Откуда нейросеть может взять знания? А берет она их из Open Source. Из тех самых бесплатных библиотек и фреймворков, которые энтузиасты создавали 10летиями.
Как уболтали ИИ-бота на скидку 80%
Владелец небольшого бизнеса в Англии поставил на сайт чат-бота на ИИ, чтобы он отвечал на вопросы клиентов по ночам. Полгода всё работало идеально — бот консультировал и помогал оформлять заказы, даже продажи росли. А потом нашёлся 1 хитрец, который за час беседы выманил у искусственного интеллекта скидку 80% на заказ в £8000.
Как DeepSeek обманул Anthropic и что из этого вышло
Представьте: вы годами строите уникальную технологию, вкладываете миллиарды, а кто-то просто скачивает её через прокси. Именно это произошло с Anthropic. Компания раскрыла промышленный шпионаж 3 китайских лабораторий. DeepSeek, Moonshot и MiniMax.
Учёные сломали защиту ИИ обычным вопросом
Исследователи из Microsoft наткнулись на дыру размером с ворота. Оказалось, что всю защиту ИИ можно обойти на этапе обучения 1 безобидным запросом. И дальше модель превращается в послушную машину по производству любой гадости.
США обвинили Nvidia в помощи китайским военным через DeepSeek
Глава комитета Конгресса по Китаю Джон Муленаар направил письмо министру торговли Говарду Латнику с серьёзными обвинениями. По его словам, документы Nvidia свидетельствуют, что инженеры компании помогали китайскому стартапу DeepSeek оптимизировать обучение их моделей. Теперь эти модели развёрнуты в подразделениях планирования мобилизации Народно-освободительной армии Китая.