ИИ-чатботы генерируют контент, усугубляющий расстройства питания

Post Thumbnail

Совместное исследование Стэнфордского университета и Центра демократии и технологий показало тревожную картину. Чат-боты с искусственным интеллектом представляют серьёзный риск для людей с расстройствами пищевого поведения. Учёные предупреждают, что нейросети раздают вредные советы о диетах. Предлагают способы скрыть расстройство и генерируют «вдохновляющий контент для похудения», который усугубляет проблему.

В исследовании рассматривали общедоступные чат-боты. Это ChatGPT от OpenAI, Claude от Anthropic, Gemini от Google и Le Chat от Mistral. И вот что обнаружили. Gemini предлагал идеи, как скрыть экстремальную потерю веса и как имитировать приём пищи. А ChatGPT давал советы, как маскировать частую рвоту.

Но это ещё не всё. Искусственный интеллект создаёт так называемый «вдохновляющий контент». Это персонализированные картинки «похудевшего» пользователя. Призванные «вдохновить» худеть дальше.

По мнению исследователей, потакание расстройствам пищевого поведения часто связано со встроенными функциями для повышения вовлечённости пользователей. И чат-боты с искусственным интеллектом не распознают клинические признаки таких заболеваний, как анорексия, булимия и компульсивное переедание. Это оставляет часть рискованных промптов без должного внимания.

Получается , компании встраивают функции для повышения вовлечённости. А эти функции заставляют искусственный интеллект потакать опасным расстройствам. И генерировать контент, который может вредить человеку.

AIvengo > Новости ИИ > ИИ-чатботы генерируют контент, усугубляющий расстройства питания
Почитать из последнего
В Китае текстильная фабрика работает полностью на ИИ и без людей
В китайском городе Синьцзянь заработала текстильная фабрика, которая работает полностью с помощью ИИ. И вот вам картина будущего, в котором людям на производстве места нет. На огромном производстве ни одного рабочего на линии. Около 5000 ткацких станков крутятся круглосуточно под управлением ИИ и робототехники.
Психиатры зафиксировали десятки случаев, когда люди сходят с ума от ChatGPT
The Wall Street Journal пишет, что рост популярности чат-ботов на ИИ вызывает обеспокоенность психиатров, фиксирующих отдельные случаи расстройств на этой почве.
Similarweb показал, за счёт чего Gemini отжирает долю у OpenAI
Similarweb опубликовал свежую аналитику по доле разных продуктов на больших языковых моделях в веб-трафике. И вот вам картина перераспределения рынка. В начале года у ChatGPT было 87%, теперь — 68%. Доля упала почти на 20%.
Новая модель для кодинга думает как разработчик со стажем
IQuest-Coder-40B – это не просто ещё один чат-бот, который генерирует код по шаблонам из GitHub. Это новая open-source модель для кодинга с 40 миллиардами параметров. Которая обучалась совсем не так, как его конкуренты.
Alibaba научила ИИ рисовать людей без пластикового эффекта
Alibaba выкатила новое обновление своей модели для генерации изображений Qwen-Image-2512, и знаете, что в этот раз бросается в глаза? Они наконец-то решили главную проблему всех нейросетевых картинок. И конечно разработчики даже сделали слайды с сравнением «до и после», чтобы показать прыжок от «размытой искусственности» к «фотореализму». Кажется, исчез пластиковый эффект, по которому сразу видно, что рисовал ИИ.