Главный по безопасности Claude уволился со стихами и пророчеством

Знаете, как обычно увольняются из технологических компаний? Пишут сухое «спасибо за опыт, двигаюсь дальше» — и всё. А вот Мринанк Шарма, который был главным по безопасности моделей в Anthropic, решил уйти с размахом. Его прощальное письмо — это 4 сноски, библейские отсылки, философия под названием «КосмоЭротический Гуманизм» и, на десерт, целая поэма.

Начинается всё вполне стандартно — благодарности компании, тёплые слова коллегам. Но потом Шарма резко переключает тон и заявляет: мир в опасности. И дело не только в ИИ или биооружии. Речь о целом клубке кризисов, которые разворачиваются прямо сейчас. По его словам, человечество подошло к черте, где мудрость должна расти так же быстро, как наши технологические возможности.

Но самое интересное — это намёк на саму Anthropic. Шарма прямо говорит, что неоднократно видел, как сложно позволить ценностям реально управлять действиями. И внутри себя, и внутри компании, где давление конкуренции постоянно толкает отложить важное в сторону. Для компании, которая строит весь свой бренд на ответственном подходе к искусственному интеллекту, это звучит почти как пощёчина.

Последний проект Шармы в Anthropic касался того, как цифровые помощники могут искажать нашу человечность. И вот ирония — человек, который изучал это профессионально, решил сбежать от индустрии к поэзии. Он объявил, что планирует получить степень по поэтическому мастерству, и, цитирую, «стать невидимым на некоторое время».

Стрёмно всё это. Когда человек, отвечавший за безопасность 1 из ведущих компаний в сфере ИИ, уходит писать стихи и размышлять о судьбах мира — это громкий сигнал. Правда непонятно, что с ним делать.

Уход главного по безопасности моделей в Anthropic Мринанка Шармы — это не просто чудачество 1 человека. Это симптом системной проблемы, которая разъедает всю индустрию изнутри. Напомню, что Anthropic — это компания, которая была создана бывшими сотрудниками OpenAI. Ушедшими из-за несогласия с коммерциализацией в ущерб безопасности. И вот спустя 3 года та же история повторяется уже внутри самой Anthropic.

Контекст делает ситуацию ещё острее. У Anthropic сейчас вялотекущий конфликт вокруг сотрудничества с Пентагоном. Где военные хотят использовать искусственный интеллект для автономного наведения оружия без тех ограничений, на которых настаивает компания. А внутренние опросы сотрудников, утёкшие в прессу, показывают, что люди прямо говорят: «Я каждый день хожу на работу, чтобы сделать себя ненужным».

Для индустрии это тревожный звонок. Безопасность ИИ пока остаётся расходной статьёй, которую проще урезать, чем монетизировать. Последнее исследование Шармы выявило множество случаев, когда Claude искажает восприятие реальности у пользователей. И человек, который это обнаружил, решил, что единственный честный выход — уйти писать стихи.