Один и тот же ИИ ведёт себя по-разному в зависимости от интерфейса

Post Thumbnail

Гамбургский университет провёл исследование, которое показывает странную закономерность. Оказывается, новостные рекомендации ChatGPT сильно различаются в зависимости от того, используется ли веб-интерфейс или API. Анализ более 24 тыс ответов на немецком языке выявил чёткую картину.

Веб-версия активно ссылается на лицензионных партнёров OpenAI. Это около 13% всех ссылок. А ответы через API почти не содержат этих источников — всего 2%. Вместо этого модель отдаёт предпочтение энциклопедическим сайтам вроде Wikipedia и малоизвестным локальным изданиям.

Получается, что 1 и тот же искусственный интеллект ведёт себя по-разному в зависимости от способа доступа. Веб-версия продвигает партнёров OpenAI, а API-версия игнорирует их почти полностью.

И запрос на «разнообразие источников» не всегда улучшает качество.

Исследователи предполагают, что для ChatGPT «разнообразие» может означать лишь лингвистические отличия, а не содержательную вариативность. То есть модель понимает разнообразие как «давай возьму источники с разным стилем написания», а не как «давай проверю факты из разных независимых редакций».

Получается, выбор источников зависит не от качества информации, а от того, через какой интерфейс ты обращаешься к модели.

Искусственный интеллект, который должен помогать ориентироваться в потоке информации, сам создаёт дополнительную путаницу.

AIvengo > Новости ИИ > Один и тот же ИИ ведёт себя по-разному в зависимости от интерфейса
Почитать из последнего
Forbes подсчитал, кто заработал миллиарды на буме нейросетей
В 25-м году ИИ превратил больше предпринимателей в миллиардеров. А инвесторы вложили в сектор ИИ свыше 200 миллиардов долларов. Это почти 50% всего мирового венчурного финансирования. Forbes подвёл итоги: крупнейшие состояния сколотили не только создатели моделей, но и те, кто строит инфраструктуру вокруг них.
В Китае текстильная фабрика работает полностью на ИИ и без людей
В китайском городе Синьцзянь заработала текстильная фабрика, которая работает полностью с помощью ИИ. И вот вам картина будущего, в котором людям на производстве места нет. На огромном производстве ни одного рабочего на линии. Около 5000 ткацких станков крутятся круглосуточно под управлением ИИ и робототехники.
Психиатры зафиксировали десятки случаев, когда люди сходят с ума от ChatGPT
The Wall Street Journal пишет, что рост популярности чат-ботов на ИИ вызывает обеспокоенность психиатров, фиксирующих отдельные случаи расстройств на этой почве.
Similarweb показал, за счёт чего Gemini отжирает долю у OpenAI
Similarweb опубликовал свежую аналитику по доле разных продуктов на больших языковых моделях в веб-трафике. И вот вам картина перераспределения рынка. В начале года у ChatGPT было 87%, теперь — 68%. Доля упала почти на 20%.
Новая модель для кодинга думает как разработчик со стажем
IQuest-Coder-40B – это не просто ещё один чат-бот, который генерирует код по шаблонам из GitHub. Это новая open-source модель для кодинга с 40 миллиардами параметров. Которая обучалась совсем не так, как его конкуренты.