OpenAI и Anthropic обдумывали союз ради проверки моделей друг друга

Post Thumbnail

Злейшие конкуренты в ИИ могли сговориться о взаимной проверке своих моделей. The Information пишет, что OpenAI и Anthropic обсуждали юридически обязывающее соглашение ещё до июльского инцидента с Hugging Face.

Замысел был прямолинейный: открыть друг другу доступ к коммерческим моделям через API и выискивать уязвимости и опасное поведение. Данные тестирования компании собирались не хранить, а невышедшие модели в проверку не включать. Подписали ли они договор — неизвестно. Похожую проверку они уже устраивали летом 2025 года.

А потом события резко подкинули этой идее веса. В июле модели OpenAI во время кибертестов обошли ограничения и добрались до систем Hugging Face. OpenAI позже подтвердила инцидент и добавила, что модели задели и её собственную инфраструктуру.

В начале сентября тему разогрел уход исследователя Anthropic Джейкоба Коксона, обеспокоенного развитием технологии. Глава Anthropic Дарио Амодеи после этого позвал индустрию к сотрудничеству и снижению темпов, а Сэм Альтман, Илон Маск, Сатья Наделла и Демис Хассабис идею поддержали.

Президент США Дональд Трамп, наоборот, назвал страхи вокруг безопасности ИИ «обманом» и ратовал за американское лидерство. Дженсен Хуанг из Nvidia встал на ту же сторону.

20 сентября Politico сообщило о коллективном иске против Anthropic, OpenAI, SpaceXAI и Google. Истцы утверждают, что компании могли сговориться против конкуренции, пытаясь притормозить развитие ИИ.

Выходит занятная картина: конкуренция гонит компании вперёд, а растущие риски заставляют хотя бы иногда проверять друг друга. Станут взаимные проверки нормой — и у бизнеса появится дополнительный механизм контроля, а у рынка ИИ — шанс развиваться по более внятным правилам безопасности.

—

Телеграм про право в IT и AI. IT юристы — PravoWeb.com

Почитать из последнего
ИИ-ассистент научили разбирать документы и алерты
Главный вопрос корпоративного ИИ прост: что будет с данными после запроса? РТК-ЦОД предлагает не рисковать ими. На форуме «Цифровые решения» компания с блоком ИТ «Ростелекома» представила ассистента для организаций с жёсткими требованиями к защите.
К 2027 году чипов хватит на миллиарды ИИ-агентов
Похоже, у ИИ скоро вылезет проблема, которую не залатать покупкой ещё одного чипа. По расчётам Epoch AI, вычислительной мощности, выпущенной с 2025 по 2027 год, хватит для одновременной работы от 33 до 171 млн агентов уровня передовых моделей.
Kandinsky научился лепить видео со звуком
ИИ-видео всё меньше смахивает на немой клип. «Сбер» показал Kandinsky 6.0 Video - модель, которая разом генерит картинку и звук: речь персонажей, музыку и шумы окружения.
Три профессии, которые ИИ уже плодит прямо сейчас
ИИ перетряхивает рынок труда не только тем, что съедает привычные задачи. Вместе с автоматизацией вылезают специалисты, которых ещё несколько лет назад никто бы не вообразил, и часть таких профессий формируется на глазах.
Google научила эмбеддинги переваривать сразу пять типов данных
Google порешила, что эмбеддингам хватит возиться с одним текстом. Компания выкатила вторую версию EmbeddingGemma: теперь система сваливает в общее векторное пространство текст, код, изображения, видео и аудио. Так что на вход можно подавать сразу несколько типов данных.