ИИ-чатботы генерируют контент, усугубляющий расстройства питания
Совместное исследование Стэнфордского университета и Центра демократии и технологий показало тревожную картину. Чат-боты с искусственным интеллектом представляют серьёзный риск для людей с расстройствами пищевого поведения. Учёные предупреждают, что нейросети раздают вредные советы о диетах. Предлагают способы скрыть расстройство и генерируют «вдохновляющий контент для похудения», который усугубляет проблему.
В исследовании рассматривали общедоступные чат-боты. Это ChatGPT от OpenAI, Claude от Anthropic, Gemini от Google и Le Chat от Mistral. И вот что обнаружили. Gemini предлагал идеи, как скрыть экстремальную потерю веса и как имитировать приём пищи. А ChatGPT давал советы, как маскировать частую рвоту.
Но это ещё не всё. Искусственный интеллект создаёт так называемый «вдохновляющий контент». Это персонализированные картинки «похудевшего» пользователя. Призванные «вдохновить» худеть дальше.
По мнению исследователей, потакание расстройствам пищевого поведения часто связано со встроенными функциями для повышения вовлечённости пользователей. И чат-боты с искусственным интеллектом не распознают клинические признаки таких заболеваний, как анорексия, булимия и компульсивное переедание. Это оставляет часть рискованных промптов без должного внимания.
Получается , компании встраивают функции для повышения вовлечённости. А эти функции заставляют искусственный интеллект потакать опасным расстройствам. И генерировать контент, который может вредить человеку.
AIvengo >
Новости ИИ >
ИИ-чатботы генерируют контент, усугубляющий расстройства питания
Почитать из последнего
У OpenAI большие проблемы
У OpenAI большие проблемы, и они не технические. Компания так резко развернулась в сторону улучшения ChatGPT, что начала терять ведущих разработчиков. Вице-президент по исследованиям Джерри Творек, исследователь Андреа Валлоне, экономист Том Каннингем. И список растёт. 10 нынешних и бывших сотрудников рассказали 1 и ту же историю. Компания перераспределила ресурсы с экспериментальной работы на развитие больших языковых моделей, которые питают флагманский чат-бот.
Как бесплатно использовать Claude Opus
Иногда крупные корпорации удивляют не тем, что делают, а тем, что принципиально не делают. Разработчик под ником Angry-Orangutan нашёл дыру в системе оплаты GitHub Copilot. Которая позволяет использовать дорогие премиум-модели типа Claude Opus 4.5, вообще не расходуя лимиты. И сообщил Microsoft. Они посмотрели, подумали и закрыли тикет со статусом "не планируется". Да-да, чинить не будут.
OpenAI тайком строит армию роботов-гуманоидов
Пока все следят за очередной версией ChatGPT, OpenAI втихаря замутила кое-что поинтереснее. Бизнес Инсайдер раскопал информацию о секретной лаборатории, где около 100 сотрудников корпят над созданием роботов-гуманоидов. И знаете, что самое показательное? Об этом никто не писал на презентациях.
Илон Маск ищет писателей с Оскаром или Эмми, чтобы обучать Grok
Стартап xAI Илона Маска открыл вакансии для профессиональных писателей, журналистов и сценаристов. Чтобы они занялись обучением моделей ИИ. Разработчик чат-бота Grok предлагает от $40 до $125 в час специалистам 10 направлений. Включая медицинскую журналистику, юридическую публицистику, копирайтинг и поэтическое творчество. Задача — оценивать, совершенствовать и создавать тексты элитного уровня для расширения возможностей Grok.
