Эксперимент, в котором GPT-5 саботировал работу, а Gemini спорил

Post Thumbnail

Команда Ubuntu решила проверить, насколько ИИ готов к реальной работе с документацией. Для этого взяли 5 топовых моделей и дали им задачи, с которыми сталкивается каждый день. Всё честно — промпты и скрипты выложили в открытый доступ, можете повторить.

Первое испытание выглядело простым: адаптировать британский английский под американский вариант. Казалось бы, рутина для языковых моделей. Claude Sonnet вытянул на 7 баллов из 10, что вполне прилично. А вот GPT-5 просто молча отказался работать. 0 баллов, никаких объяснений. Но настоящий цирк устроил Gemini: сначала тормозил, потом начал менять слова в обратную сторону. Когда ему на это указали, модель согласилась с ошибкой, потом устроила внутренний диалог сама с собой. И гордо заявила, что претензии необоснованны. ИИ научился спорить с пользователями — прогресс!

Зато на других задачах системы реабилитировались. Claude сгенерировал метаописания для 250 страниц, сэкономив команде 2 недели жизни. Оптимизация проверки ссылок ускорилась на 85 процентов — с 10 минут до 1.5. Скрипт для автообновления редиректов заработал с первого раза.

Но главное открытие оказалось неприятным. Всё сэкономленное время уходит на проверку результатов. Ревью работы ИИ отнимает в 2–3 раза больше времени, чем проверка работы живых коллег. Модели выдают случайные странности, и чем лучше они работают в целом, тем опаснее пропустить косяк.

Почитать из последнего
ИИ-ассистент научили разбирать документы и алерты
Главный вопрос корпоративного ИИ прост: что будет с данными после запроса? РТК-ЦОД предлагает не рисковать ими. На форуме «Цифровые решения» компания с блоком ИТ «Ростелекома» представила ассистента для организаций с жёсткими требованиями к защите.
К 2027 году чипов хватит на миллиарды ИИ-агентов
Похоже, у ИИ скоро вылезет проблема, которую не залатать покупкой ещё одного чипа. По расчётам Epoch AI, вычислительной мощности, выпущенной с 2025 по 2027 год, хватит для одновременной работы от 33 до 171 млн агентов уровня передовых моделей.
Kandinsky научился лепить видео со звуком
ИИ-видео всё меньше смахивает на немой клип. «Сбер» показал Kandinsky 6.0 Video - модель, которая разом генерит картинку и звук: речь персонажей, музыку и шумы окружения.
Три профессии, которые ИИ уже плодит прямо сейчас
ИИ перетряхивает рынок труда не только тем, что съедает привычные задачи. Вместе с автоматизацией вылезают специалисты, которых ещё несколько лет назад никто бы не вообразил, и часть таких профессий формируется на глазах.
Google научила эмбеддинги переваривать сразу пять типов данных
Google порешила, что эмбеддингам хватит возиться с одним текстом. Компания выкатила вторую версию EmbeddingGemma: теперь система сваливает в общее векторное пространство текст, код, изображения, видео и аудио. Так что на вход можно подавать сразу несколько типов данных.