Один и тот же ИИ ведёт себя по-разному в зависимости от интерфейса

Post Thumbnail

Гамбургский университет провёл исследование, которое показывает странную закономерность. Оказывается, новостные рекомендации ChatGPT сильно различаются в зависимости от того, используется ли веб-интерфейс или API. Анализ более 24 тыс ответов на немецком языке выявил чёткую картину.

Веб-версия активно ссылается на лицензионных партнёров OpenAI. Это около 13% всех ссылок. А ответы через API почти не содержат этих источников — всего 2%. Вместо этого модель отдаёт предпочтение энциклопедическим сайтам вроде Wikipedia и малоизвестным локальным изданиям.

Получается, что 1 и тот же искусственный интеллект ведёт себя по-разному в зависимости от способа доступа. Веб-версия продвигает партнёров OpenAI, а API-версия игнорирует их почти полностью.

И запрос на «разнообразие источников» не всегда улучшает качество.

Исследователи предполагают, что для ChatGPT «разнообразие» может означать лишь лингвистические отличия, а не содержательную вариативность. То есть модель понимает разнообразие как «давай возьму источники с разным стилем написания», а не как «давай проверю факты из разных независимых редакций».

Получается, выбор источников зависит не от качества информации, а от того, через какой интерфейс ты обращаешься к модели.

Искусственный интеллект, который должен помогать ориентироваться в потоке информации, сам создаёт дополнительную путаницу.

AIvengo > Новости ИИ > Один и тот же ИИ ведёт себя по-разному в зависимости от интерфейса
Почитать из последнего
Беспилотный робомобиль Waymo сбил ребёнка у школы
Беспилотный автомобиль Waymo, принадлежащий Alphabet, сбил ребёнка возле начальной школы в Калифорнии. Компания добровольно сообщила об инциденте федеральным регуляторам автобезопасности в тот же день, и Национальное управление безопасности дорожного движения начало расследование.
Создатели ИИ-министра для борьбы с коррупцией украли 7 млн евро
Помните историю про ИИ-министра в Албании? Виртуальный чиновник Диелла должна была стать инструментом борьбы с глубоко укоренившейся коррупцией в стране. Звучало прогрессивно и технологично. Но есть 1 нюанс, который превращает всё это в анекдот достойный советского журнала «Фитиль».
OpenAI закрывает модель GPT-4o навсегда и уже очень скоро
OpenAI объявила, что 13 февраля этого года удалит несколько моделей из ChatGPT, включая GPT-4o. Которую обожают пользователи за тёплый разговорный стиль. Компания запустила GPT-4o в мае 24 года, и модель стала чрезвычайно популярна среди платных подписчиков.
Молчаливый тиктокер с покерфейсом продал свою компанию за 900 миллионов
Хаби Лейм – это такой молчаливый тиктокер с покерфейсом и 160 миллионами подписчиков. И вот он продал свою компанию за $900 миллионов. Сумма огромная, но нюанс в том, что это за продажа. Фишка в условиях контракта - это создание искусственного аватара, который будет вести стримы, сниматься в рекламе и продавать товары 24 часа в сутки. Пока настоящий Хаби спит или играет, его цифровая копия будет вкалывать в другом часовом поясе.
Гуманоиды работают в три раза хуже людей
Знаете, что объединяет хайп вокруг гуманоидов и реальность? Ничего. Но некоторые паникуют из-за того, что гуманоиды массово заменят людей на заводах. И тут директор китайской компании UBTech Майкл Там взял и честно признался Financial Times. Их новейшие человекоподобные роботы достигают производительности всего в 30-50% от человеческой. И это только в простейших операциях типа складывания коробок или контроля качества. Грубо говоря, 1 работник человек делает столько же, сколько 2-3 робота вместе взятых.