Кажется, современные модели не любят грубость в промтах

Post Thumbnail

Учёные из Университета штата Пенсильвания решили проверить безумную гипотезу: а что если грубость в запросах улучшает ответы ИИ? Они задавали GPT-4o по 50 вопросов из разных областей знаний, формулируя их в разном тоне – от предельно вежливого до откровенно хамского. Результат оказался неожиданным. Более резкий тон повысил точность ответов с 80.8 процента до 84.8. Казалось бы, вот оно – научное обоснование того, что с нейросетями надо общаться как с подчинёнными!

Но не тут-то было. Другая группа исследователей раскритиковала эту работу за слишком маленькую выборку и провела собственный эксперимент на нескольких моделях, каждую протестировав на сотнях вопросов. И картина получилась совсем другая. Gemini 2.0 Flash оказалась полностью невосприимчива к тону запроса. А результаты GPT-4o mini и Llama4 Scout в гуманитарных задачах вообще ухудшались при грубом обращении. Нейросети словно обиделись и начали работать хуже.

Попытки подобрать универсальный стиль промпта идут уже не первый год, но результаты противоречивые. Например, для ранних моделей вроде GPT-3.5 вежливые запросы работали заметно эффективнее грубых. Модели прямо зеркалили поведение пользователя. А учёные из Пенсильванского университета вообще пришли к выводу, что даже для одной модели сложно предсказать реакцию на тон. Иногда вежливость улучшает результат, а иногда снижает.

Универсального бенчмарка на эффективность грубости и лести для ИИ пока нет. Получается, что вопрос «грубить ли нейросети» остаётся открытым. И каждая модель реагирует по-своему.

Почитать из последнего
ИИ-ассистент научили разбирать документы и алерты
Главный вопрос корпоративного ИИ прост: что будет с данными после запроса? РТК-ЦОД предлагает не рисковать ими. На форуме «Цифровые решения» компания с блоком ИТ «Ростелекома» представила ассистента для организаций с жёсткими требованиями к защите.
К 2027 году чипов хватит на миллиарды ИИ-агентов
Похоже, у ИИ скоро вылезет проблема, которую не залатать покупкой ещё одного чипа. По расчётам Epoch AI, вычислительной мощности, выпущенной с 2025 по 2027 год, хватит для одновременной работы от 33 до 171 млн агентов уровня передовых моделей.
Kandinsky научился лепить видео со звуком
ИИ-видео всё меньше смахивает на немой клип. «Сбер» показал Kandinsky 6.0 Video - модель, которая разом генерит картинку и звук: речь персонажей, музыку и шумы окружения.
Три профессии, которые ИИ уже плодит прямо сейчас
ИИ перетряхивает рынок труда не только тем, что съедает привычные задачи. Вместе с автоматизацией вылезают специалисты, которых ещё несколько лет назад никто бы не вообразил, и часть таких профессий формируется на глазах.
Google научила эмбеддинги переваривать сразу пять типов данных
Google порешила, что эмбеддингам хватит возиться с одним текстом. Компания выкатила вторую версию EmbeddingGemma: теперь система сваливает в общее векторное пространство текст, код, изображения, видео и аудио. Так что на вход можно подавать сразу несколько типов данных.