OpenAI обвинила Moonshot в массовой добыче данных для ИИ

Post Thumbnail

OpenAI засекла тысячи попыток выяснить, как её модели раскумекивают сложные задачи. По данным компании, активность шла от пользователей, предположительно работавших на китайский Moonshot AI. В июле число таких запросов в отдельные периоды доходило до 16 тысяч.

Задача выглядела прямолинейно: вытянуть сведения о внутренних механизмах рассуждения и подсунуть их для обучения своих моделей. OpenAI считает, что добытые данные могли помочь воспроизвести отдельные возможности её систем. При этом компания не утверждает, что за всеми операторами стоял именно Moonshot.

Защита OpenAI построена так, чтобы пользователи не видели полные логические цепочки модели. Но, по словам компании, операторы обошли ограничение: копировали зашифрованные сведения из одного диалога, а потом в отдельном запросе просили модель их расшифровать. Добраться до информации о версии алгоритма, которая крутится исключительно на серверах OpenAI, им не удалось.

Эта история вписывается в более широкую драку за данные для обучения ИИ. В августе Anthropic назвала Moonshot второй по активности среди выявленных китайских участников дистилляции её моделей после Alibaba, а третьей стала DeepSeek. Ранее Anthropic тоже заявляла о миллионах запросов, которые, предположительно, использовались для обучения Kimi.

Проблема китайских разработчиков не сводится к данным. Из-за экспортных ограничений США им сложнее добывать передовые ускорители Nvidia, находящиеся в Китае. Зато компании выручают друг друга: Alibaba договорилась дать Moonshot доступ примерно к 20 тысячам таких чипов.

Теперь OpenAI хочет превратить обмен информацией о подобных атаках в отраслевой стандарт. Компания уже передаёт сведения другим разработчикам и властям США, а параллельно американские технологические компании сговорились о независимом аудите ИИ-моделей. Борьба за качество моделей потихоньку превращается ещё и в борьбу за то, кто сможет заполучить данные, на которых строится следующий рывок.

—

Телеграм про право в IT и AI. IT юристы — PravoWeb.com

Почитать из последнего
ИИ-ассистент научили разбирать документы и алерты
Главный вопрос корпоративного ИИ прост: что будет с данными после запроса? РТК-ЦОД предлагает не рисковать ими. На форуме «Цифровые решения» компания с блоком ИТ «Ростелекома» представила ассистента для организаций с жёсткими требованиями к защите.
К 2027 году чипов хватит на миллиарды ИИ-агентов
Похоже, у ИИ скоро вылезет проблема, которую не залатать покупкой ещё одного чипа. По расчётам Epoch AI, вычислительной мощности, выпущенной с 2025 по 2027 год, хватит для одновременной работы от 33 до 171 млн агентов уровня передовых моделей.
Kandinsky научился лепить видео со звуком
ИИ-видео всё меньше смахивает на немой клип. «Сбер» показал Kandinsky 6.0 Video - модель, которая разом генерит картинку и звук: речь персонажей, музыку и шумы окружения.
Три профессии, которые ИИ уже плодит прямо сейчас
ИИ перетряхивает рынок труда не только тем, что съедает привычные задачи. Вместе с автоматизацией вылезают специалисты, которых ещё несколько лет назад никто бы не вообразил, и часть таких профессий формируется на глазах.
Google научила эмбеддинги переваривать сразу пять типов данных
Google порешила, что эмбеддингам хватит возиться с одним текстом. Компания выкатила вторую версию EmbeddingGemma: теперь система сваливает в общее векторное пространство текст, код, изображения, видео и аудио. Так что на вход можно подавать сразу несколько типов данных.