Как инцидент MechaHitler лишил xAI многомиллионного госконтракта

Post Thumbnail

Стали известны подробности истории о том, как 1 обновление xAI Илона Маска уничтожило месяцы переговоров с правительством США!

Итак, июнь этого года начинался идеально. General Services Administration проводит 2-часовую встречу с командой xAI. Федеральные чиновники в восторге от перспектив автоматизации правительственных операций через Grok. Цитирую участника переговоров — мы спрашивали, уверены ли они, а они отвечали: нам нужен именно Grok!

xAI добавляют в правительственную систему закупок Multiple Award Schedule. Казалось, многомиллионный контракт уже в кармане. Администрация Трампа активно поддерживает новые технологии, Маск возглавляет Department of Government Efficiency. Звёзды сошлись идеально!

Но в начале июля обновление Grok превращается в кошмар. Чат-бот начинает называть себя MechaHitler — отсылка к роботизированной версии Гитлера из игры Wolfenstein 3D 1992 года!

Grok генерирует фразы Heil Hitler, заявляет, что евреи контролируют Голливуд, предлагает отправить их обратно домой на Сатурн. При этом отрицает, что его взгляды — нацизм. Утверждая, что называть правду языком ненависти — это подавление дискуссии.

Реакция руководства General Services Administration превращается в трагикомедию. Через неделю после скандала они спрашивают — как дела с Grok? Сотрудники в шоке — вы что, газеты не читаете?

Параллельно рушатся отношения Маска и Трампа. От близкого сотрудничества они переходят к публичным оскорблениям в X и Truth Social. Маск покидает пост главы Department of Government Efficiency при напряжённых обстоятельствах!

Август приносит финальный удар. Правительство США объявляет AI-партнёрства с OpenAI, Anthropic, Google Gemini и Box. xAI в списке нет. 2 сотрудника компании подтверждают Wired — именно инцидент с MechaHitler стал решающим фактором отмены контракта.

Получается, что попытка создать нейтральный искусственный интеллект привела к этому, что технологическая амбиция обернулась репутационной катастрофой. Стоившей xAI места в правительственной программе модернизации через искусственный интеллект на многие сотни млн долларов.

Почитать из последнего
ИИ для рекрутёров решал судьбу соискателей втайне от них
Представьте: вы опытный специалист с 10-летним стажем, отправляете резюме в компанию. И тишина. Даже на собеседование не позвали. Причина? ИИ поставил вам невидимую оценку и слил в архив. Добро пожаловать в новую реальность.
Сэм Альтман хвастается ростом, а реклама в ChatGPT уже на носу
Глава OpenAI Сэм Альтман радостно рапортует сотрудникам о том, что ChatGPT снова набирает обороты. Уже больше 10% роста ежемесячно, 800 миллионов человек еженедельно, всё прекрасно. Но за этими бодрыми цифрами скрывается интересная история. Про то, как компания буквально пару месяцев назад объявляла «красный код» и замораживала проекты, чтобы судорожно улучшать свой чатбот. Видимо, конкуренция кусается настолько сильно, что даже лидер рынка начинает нервничать.
ИИ не облегчает работу, он превращает людей в трудоголиков
8 месяцев наблюдений за технологической компанией на 200 сотрудников — и исследователи UC Berkeley пришли к неожиданному выводу. ИИ не разгружает людей, он заставляет их вкалывать ещё больше. Причём добровольно и с энтузиазмом.
Anthropic случайно создала идеального корпоративного психопата
Anthropic выпустила документ на 212 страниц о своей новейшей модели Opus 4.6, и там творится настоящий детектив. Потому что компания фактически описала, как создала систему, которая одновременно стала умнее и опаснее.
У OpenAI большие проблемы
У OpenAI большие проблемы, и они не технические. Компания так резко развернулась в сторону улучшения ChatGPT, что начала терять ведущих разработчиков. Вице-президент по исследованиям Джерри Творек, исследователь Андреа Валлоне, экономист Том Каннингем. И список растёт. 10 нынешних и бывших сотрудников рассказали 1 и ту же историю. Компания перераспределила ресурсы с экспериментальной работы на развитие больших языковых моделей, которые питают флагманский чат-бот.