Офлайн-тесты показали худшие результаты ИИ-моделей

Post Thumbnail

Искусственный интеллект официально обогнал среднего человека по IQ. GPT-5 Pro показала результат от 110 до 138 баллов, в то время как средний человеческий IQ составляет 100 баллов. Но давайте разберёмся, что это значит на самом деле.

Портал Tracking AI провел масштабное тестирование моделей искусственного интеллекта. В топе оказались 2 версии GPT-5 Pro. С включённым и выключенным компьютерным зрением. За ними следуют Gemini 2.5 Pro, Claude Opus 4 и Grok 4.

Но есть важный нюанс. В отличие от людей, искусственный интеллект не ограничен во времени и может делать до 10 попыток решения каждой задачи. Это сделано, чтобы обойти системы безопасности, которые иногда блокируют слова вроде экзамен или тренировка.

Для тестирования использовали 2 типа задач. 1 — официальный тест Mensa Norway, 35 задач за 25 минут. 2 — специальный офлайн-тест, созданный с нуля и отсутствующий в интернете. Так исключили возможность предварительной тренировки моделей на этих задачах.

Модели тестировали с включённым и выключенным компьютерным зрением. Во 2 случае задачи описывали полностью текстом. И знаете что? Почти все модели показали худшие результаты на офлайн-тесте. Это доказывает — качественные бенчмарки для искусственного интеллекта нужно создавать с нуля и защищать от утечек в интернет.

Искусственный интеллект формально превзошёл человека в классических тестах на интеллект. Но сравнение некорректное. IQ-тесты измеряют специфический тип паттерн-распознавания, в котором искусственный интеллект естественно силён. Плюс 10 попыток без ограничения времени — это совершенно другие условия тестирования. Выглядит так, что эти «исследователи» специально создают условия, чтобы искусственный интеллект выглядит умнее.

Почитать из последнего
Молчаливый тиктокер с покерфейсом продал свою компанию за 900 миллионов
Хаби Лейм – это такой молчаливый тиктокер с покерфейсом и 160 миллионами подписчиков. И вот он продал свою компанию за $900 миллионов. Сумма огромная, но нюанс в том, что это за продажа. Фишка в условиях контракта - это создание искусственного аватара, который будет вести стримы, сниматься в рекламе и продавать товары 24 часа в сутки. Пока настоящий Хаби спит или играет, его цифровая копия будет вкалывать в другом часовом поясе.
Гуманоиды работают в три раза хуже людей
Знаете, что объединяет хайп вокруг гуманоидов и реальность? Ничего. Но некоторые паникуют из-за того, что гуманоиды массово заменят людей на заводах. И тут директор китайской компании UBTech Майкл Там взял и честно признался Financial Times. Их новейшие человекоподобные роботы достигают производительности всего в 30-50% от человеческой. И это только в простейших операциях типа складывания коробок или контроля качества. Грубо говоря, 1 работник человек делает столько же, сколько 2-3 робота вместе взятых.
Clawdbot слил ключи и переписки сотен пользователей (я вас предупреждал)
Я вчера вам рассказывал про открытый ИИ-ассистент Clawdbot, который взорвал GitHub. 60 тысяч звёзд за 3 дня, все в восторге, все ставят себе. Но я вас предупредил про безопасность. И тут исследователь Джеймисон О'Рейли просто вбивает пару запросов и находит сотни публично доступных серверов. Без аутентификации. С API-ключами, токенами мессенджеров и полной историей переписок на блюдечке.
Ведущие учёные по ИИ попались на выдуманных ИИ цитатах
Когда престижная конференция по ИИ сама становится жертвой галлюцинаций нейросетей, ирония зашкаливает. GPTZero просканировал все 4841 работу, принятую на Conference on Neural Information Processing Systems в декабре в Сан-Диего. И обнаружил 100 подтверждённых фальшивых цитат в 51 статье. Причём речь идёт о ведущих умах индустрии искусственного интеллекта.
OpenAI запускает рекламу в ChatGPT от 60 долларов
OpenAI решила монетизировать ChatGPT через рекламу, и цены оказались космическими. Около $60 за 1000 просмотров. Это уровень премиум-контента на телевидении вроде матчей NFL, когда миллионы людей смотрят одновременно. И бренды готовы платить безумные деньги. Только вот между телетрансляцией финала чемпионата и чатботом есть небольшая разница. Это масштаб аудитории и проверенная модель монетизации.