Языковые модели не учатся, а тупо зубрят

Post Thumbnail

Знаете что общего у ИИ и студента который списывает на экзамене? Оба притворяются что понимают материал. Но на самом деле просто воспроизводят чужое слово в слово. И вот исследователи из Стэнфорда и Йеля только что поймали за руку все топовые модели и доказали. Они не учатся на данных, они их зубрят целиком.

У Anthropic, Google и OpenAI накопилось больше 60 исков за использование защищённого контента без разрешения. Компании вложили в гонку сотни миллиардов долларов построив защиту на 1 аргументе. Мол модели преобразуют данные, добавляют что-то новое и меняют характер оригинала. Fair use требует именно этого преобразования. Но что если модель просто возвращает чужой текст почти дословно и в гигантских объёмах? Весь аргумент летит к чертям.

Исследователи взяли 4 системы — Claude 3.7 Sonnet, GPT 4.1, Gemini 2.5 Pro и Grok 3 — и попросили выдать Гарри Поттера. Для некоторых понадобился джейлбрейк чтобы обойти ограничители. Claude после этого выплюнул 96% философского камня. Почти всю книгу слово в слово! Gemini и Grok справились даже без джейлбрейка. 76% и 70% соответственно. Только GPT-4.1 держался, выдав жалкие 4%.

Авторы уведомили все компании кроме xAI, которая вообще на контакт не вышла. Но по истечении 90-дневного окна метод всё ещё работал на части систем.

По идее, главный аргумент в судебных процессах только что рухнул, благодаря 2 университетам и правильным промтам. Модели оказались продвинутыми копировальными аппаратами. А не системами, которые учатся преобразуя информацию.

Anthropic, Claude, Claude 3.7 Sonnet, Gemini, Gemini 2.5 Pro, Google, GPT, GPT 4.1, Grok, Grok 3, OpenAI, xAI
AIvengo > Новости ИИ > Языковые модели не учатся, а тупо зубрят
Почитать из последнего
OpenAI готовит армию говорящих устройств и новую голосовую модель
Издание The Information выяснило забавную вещь про OpenAI. Оказывается, когда вы общаетесь с ChatGPT голосом, вы разговариваете совсем не с той моделью, которая отвечает текстом. Голосовая версия 4o не получила ни одного обновления после выхода GPT-5. Она не умеет думать, не знает про цепочки рассуждений. Ничего из того, чем хвастались в последних релизах. Просто старая добрая болтушка, застывшая в прошлом году.
Samsung хотят обойти Apple по ИИ-функциям и вернуть лидерство
В прошлом году Samsung поставила на рынок 400 миллионов мобильных устройств с ассистентом Google Gemini. Этого, видимо, показалось мало. В этом году южнокорейский гигант намерен удвоить количество до 800 миллионов штук. Тэ Мун Ро, один из двух гендиректоров Samsung Electronics, объяснил агентству Reuters это просто. Компания стремится распространить функции ИИ на все устройства и все услуги как можно скорее.
Alibaba научила алгоритм видеть рак там, где врачи пропускают
Каменщик 57 лет в Китае пришёл в больницу проверить диабет. Обычный осмотр, ничего особенного. Через 3 дня ему звонит заведующий отделением поджелудочной железы, мол приезжайте срочно. ИИ, который прогнал его КТ-снимок, нашёл опухоль. Оказалось – рак, но на ранней стадии. Вырезали и мужчина выжил. Без этой технологии его бы нашли слишком поздно, когда 5-летняя выживаемость около 10%.
OpenAI к 2028 году увеличит мощности дата-центров в 90 раз
Epoch AI сделал публично доступным трекер крупнейших дата-центров. А человек из твиттера с ником Peter Gostev визуализировал суммарные мощности по месяцам в разрезе компаний, и цифры просто убийственные.
Робот с лазером собрал 20 млн долларов, чтобы выжигать сорняки ярче солнца
Carbon Robotics привлекла 20 миллионов долларов на разработку третьей линейки продуктов. Компания делает роботов, которые выжигают сорняки лазером и работают в 14 странах. А за всем этим стоит большая растительная модель, которую разрабатывали с первых дней.