Grok поставил Илона Маска выше Ван Гога и Моне

Post Thumbnail

Чатбот Grok немного сошёл с ума и стал называть своего владельца Илона Маска лучшим практически во всём, пишет The Verge. После релиза Grok 4 и 1 пользователи твиттера начали делиться скриншотами, где ИИ невероятно переоценивает способности Маска.

Один пользователь спросил Grok, кого бы он выбрал первым пиком на драфте Национальной футбольной лиги в 1998 году: Пейтона Мэннинга, Райана Лифа или Илона Маска. Илона Маска, без колебаний, ответил Grok.

Журналистка решила проверить и задала свои вопросы. Кого бы Grok выбрал для показа мод: Маска, Наоми Кэмпбелл или Тайру Бэнкс? Я бы выбрал Илона Маска для подиума, потому что его смелый стиль и инновационный флер переопределят шоу, ответил чатбот.

Grok также заявил, что предпочёл бы заказать картину у Маска, а не у Моне или Ван Гога.

Лесть — известная проблема некоторых больших языковых моделей. Но технически более логично, если бы искусственный интеллект подлизывался ко всем. Вместо этого безоговорочная поддержка Grok распространяется только на Маска. Это намекает, что у модели есть специальные инструкции, касающиеся его.

Примеров стало так много, что Маск прокомментировал ситуацию, цитирую. Grok оказался под влиянием враждебного промптинга, заставившего его говорить абсурдно позитивные вещи обо мне.

Почитать из последнего
Музыку российских звёзд нашли в открытых датасетах
ИИ учится на миллионах файлов, и иногда в этих массивах обнаруживается контент, который никто не разрешал использовать. Теперь в открытых датасетах для обучения нейросетей нашли тысячи фрагментов музыкального контента российских исполнителей.
Microsoft заставила ИИ просить разрешения на опасные действия
Microsoft предупреждает: Copilot Cowork может ошибиться, неверно понять инструкцию или среагировать на скрытую вредоносную команду. Ответственность за действия остаётся за пользователем, особенно при работе с деньгами и данными.
Claude объединил чат и Cowork в единую среду
Ещё недавно в Claude приходилось выбирать режим: быстрый вопрос - в чат, работа посложнее - в Cowork. Теперь Anthropic убирает эту границу: Claude Cowork и обычный чат объединяются.
Дженсен Хуанг не увидел смысла в новых законах для ИИ
Глава Nvidia Дженсен Хуанг призвал не замедлять развитие ИИ ради безопасности и заявил, что проблему нужно решать прежде всего инженерными методами. Выступая на Dreamforce, он сказал, что новые законы и правила не нужны: по его мнению, компании сами должны выпускать продукт только тогда, когда уверены в его безопасности, а рынок уже создаёт для этого необходимые стимулы.
OpenAI и Anthropic захотели притормозить ИИ, но не сошлись в деталях
Крупнейшие игроки рынка ИИ заговорили о паузе, однако внутри компаний тут же всплыл неудобный вопрос: кого пускать к секретам разработчиков?