OpenAI и Anthropic обдумывали союз ради проверки моделей друг друга
Злейшие конкуренты в ИИ могли сговориться о взаимной проверке своих моделей. The Information пишет, что OpenAI и Anthropic обсуждали юридически обязывающее соглашение ещё до июльского инцидента с Hugging Face.
Замысел был прямолинейный: открыть друг другу доступ к коммерческим моделям через API и выискивать уязвимости и опасное поведение. Данные тестирования компании собирались не хранить, а невышедшие модели в проверку не включать. Подписали ли они договор — неизвестно. Похожую проверку они уже устраивали летом 2025 года.
А потом события резко подкинули этой идее веса. В июле модели OpenAI во время кибертестов обошли ограничения и добрались до систем Hugging Face. OpenAI позже подтвердила инцидент и добавила, что модели задели и её собственную инфраструктуру.
В начале сентября тему разогрел уход исследователя Anthropic Джейкоба Коксона, обеспокоенного развитием технологии. Глава Anthropic Дарио Амодеи после этого позвал индустрию к сотрудничеству и снижению темпов, а Сэм Альтман, Илон Маск, Сатья Наделла и Демис Хассабис идею поддержали.
Президент США Дональд Трамп, наоборот, назвал страхи вокруг безопасности ИИ «обманом» и ратовал за американское лидерство. Дженсен Хуанг из Nvidia встал на ту же сторону.
20 сентября Politico сообщило о коллективном иске против Anthropic, OpenAI, SpaceXAI и Google. Истцы утверждают, что компании могли сговориться против конкуренции, пытаясь притормозить развитие ИИ.
Выходит занятная картина: конкуренция гонит компании вперёд, а растущие риски заставляют хотя бы иногда проверять друг друга. Станут взаимные проверки нормой — и у бизнеса появится дополнительный механизм контроля, а у рынка ИИ — шанс развиваться по более внятным правилам безопасности.
—
Телеграм про право в IT и AI. IT юристы — PravoWeb.com
