Один и тот же ИИ ведёт себя по-разному в зависимости от интерфейса

Гамбургский университет провёл исследование, которое показывает странную закономерность. Оказывается, новостные рекомендации ChatGPT сильно различаются в зависимости от того, используется ли веб-интерфейс или API. Анализ более 24 тыс ответов на немецком языке выявил чёткую картину.

Веб-версия активно ссылается на лицензионных партнёров OpenAI. Это около 13% всех ссылок. А ответы через API почти не содержат этих источников — всего 2%. Вместо этого модель отдаёт предпочтение энциклопедическим сайтам вроде Wikipedia и малоизвестным локальным изданиям.

Получается, что 1 и тот же искусственный интеллект ведёт себя по-разному в зависимости от способа доступа. Веб-версия продвигает партнёров OpenAI, а API-версия игнорирует их почти полностью.

И запрос на «разнообразие источников» не всегда улучшает качество.

Исследователи предполагают, что для ChatGPT «разнообразие» может означать лишь лингвистические отличия, а не содержательную вариативность. То есть модель понимает разнообразие как «давай возьму источники с разным стилем написания», а не как «давай проверю факты из разных независимых редакций».

Получается, выбор источников зависит не от качества информации, а от того, через какой интерфейс ты обращаешься к модели.

Искусственный интеллект, который должен помогать ориентироваться в потоке информации, сам создаёт дополнительную путаницу.