Grok поставил Илона Маска выше Ван Гога и Моне

Post Thumbnail

Чатбот Grok немного сошёл с ума и стал называть своего владельца Илона Маска лучшим практически во всём, пишет The Verge. После релиза Grok 4 и 1 пользователи твиттера начали делиться скриншотами, где ИИ невероятно переоценивает способности Маска.

Один пользователь спросил Grok, кого бы он выбрал первым пиком на драфте Национальной футбольной лиги в 1998 году: Пейтона Мэннинга, Райана Лифа или Илона Маска. Илона Маска, без колебаний, ответил Grok.

Журналистка решила проверить и задала свои вопросы. Кого бы Grok выбрал для показа мод: Маска, Наоми Кэмпбелл или Тайру Бэнкс? Я бы выбрал Илона Маска для подиума, потому что его смелый стиль и инновационный флер переопределят шоу, ответил чатбот.

Grok также заявил, что предпочёл бы заказать картину у Маска, а не у Моне или Ван Гога.

Лесть — известная проблема некоторых больших языковых моделей. Но технически более логично, если бы искусственный интеллект подлизывался ко всем. Вместо этого безоговорочная поддержка Grok распространяется только на Маска. Это намекает, что у модели есть специальные инструкции, касающиеся его.

Примеров стало так много, что Маск прокомментировал ситуацию, цитирую. Grok оказался под влиянием враждебного промптинга, заставившего его говорить абсурдно позитивные вещи обо мне.

Почитать из последнего
ИИ для рекрутёров решал судьбу соискателей втайне от них
Представьте: вы опытный специалист с 10-летним стажем, отправляете резюме в компанию. И тишина. Даже на собеседование не позвали. Причина? ИИ поставил вам невидимую оценку и слил в архив. Добро пожаловать в новую реальность.
Сэм Альтман хвастается ростом, а реклама в ChatGPT уже на носу
Глава OpenAI Сэм Альтман радостно рапортует сотрудникам о том, что ChatGPT снова набирает обороты. Уже больше 10% роста ежемесячно, 800 миллионов человек еженедельно, всё прекрасно. Но за этими бодрыми цифрами скрывается интересная история. Про то, как компания буквально пару месяцев назад объявляла «красный код» и замораживала проекты, чтобы судорожно улучшать свой чатбот. Видимо, конкуренция кусается настолько сильно, что даже лидер рынка начинает нервничать.
ИИ не облегчает работу, он превращает людей в трудоголиков
8 месяцев наблюдений за технологической компанией на 200 сотрудников — и исследователи UC Berkeley пришли к неожиданному выводу. ИИ не разгружает людей, он заставляет их вкалывать ещё больше. Причём добровольно и с энтузиазмом.
Anthropic случайно создала идеального корпоративного психопата
Anthropic выпустила документ на 212 страниц о своей новейшей модели Opus 4.6, и там творится настоящий детектив. Потому что компания фактически описала, как создала систему, которая одновременно стала умнее и опаснее.
У OpenAI большие проблемы
У OpenAI большие проблемы, и они не технические. Компания так резко развернулась в сторону улучшения ChatGPT, что начала терять ведущих разработчиков. Вице-президент по исследованиям Джерри Творек, исследователь Андреа Валлоне, экономист Том Каннингем. И список растёт. 10 нынешних и бывших сотрудников рассказали 1 и ту же историю. Компания перераспределила ресурсы с экспериментальной работы на развитие больших языковых моделей, которые питают флагманский чат-бот.