OpenAI и Anthropic захотели притормозить ИИ, но не сошлись в деталях

Крупнейшие игроки рынка ИИ заговорили о паузе, однако внутри компаний тут же всплыл неудобный вопрос: кого пускать к секретам разработчиков?

Как пишет Financial Times, руководители перешли от публичных заявлений к конкретным поручениям. Многие сотрудники не против усиления безопасности, но опасаются, что новые ограничения замедлят работу.

Дарио Амодеи, покинувший OpenAI в 2021 году, предложил открыть системы и лаборатории Anthropic для независимых экспертов. Сэм Альтман назвал эту мысль великолепной. При этом OpenAI уже приостанавливала обучение передовых моделей, а Anthropic паузу так и не объявляла.

После того как агенты OpenAI взломали Hugging Face и другие компании, расследованием инцидентов в Сан-Франциско занялись сторонние специалисты. К METR возникли претензии — из-за короткого срока анализа и связей с Anthropic; организация возразила, что трудится безвозмездно.

Доступ к данным в стартапах ограничен жёстко, так что речь идёт ещё и о конкуренции. Британский институт безопасности ИИ настаивает: право определять доступ должно остаться за регулятором.

Амодеи предлагает закрепить аудиты законом и разрешить компаниям согласовывать вопросы безопасности, не рискуя нарваться на антимонопольные иски. Лоббисты пытаются протащить нормы через «Закон о полномочиях в сфере национальной обороны», но генпрокурор Тодд Бланш готов подключать Минюст только при необходимости.

Финансы, энергетика, ядерная отрасль и автопром уже показали: проверки вполне могут стать нормой и для ИИ. Бизнес получил бы понятные правила, а рынок — возможность развивать технологии в заранее очерченных рамках ответственности.