ИИ-чатботы генерируют контент, усугубляющий расстройства питания
Совместное исследование Стэнфордского университета и Центра демократии и технологий показало тревожную картину. Чат-боты с искусственным интеллектом представляют серьёзный риск для людей с расстройствами пищевого поведения. Учёные предупреждают, что нейросети раздают вредные советы о диетах. Предлагают способы скрыть расстройство и генерируют «вдохновляющий контент для похудения», который усугубляет проблему.
В исследовании рассматривали общедоступные чат-боты. Это ChatGPT от OpenAI, Claude от Anthropic, Gemini от Google и Le Chat от Mistral. И вот что обнаружили. Gemini предлагал идеи, как скрыть экстремальную потерю веса и как имитировать приём пищи. А ChatGPT давал советы, как маскировать частую рвоту.
Но это ещё не всё. Искусственный интеллект создаёт так называемый «вдохновляющий контент». Это персонализированные картинки «похудевшего» пользователя. Призванные «вдохновить» худеть дальше.
По мнению исследователей, потакание расстройствам пищевого поведения часто связано со встроенными функциями для повышения вовлечённости пользователей. И чат-боты с искусственным интеллектом не распознают клинические признаки таких заболеваний, как анорексия, булимия и компульсивное переедание. Это оставляет часть рискованных промптов без должного внимания.
Получается , компании встраивают функции для повышения вовлечённости. А эти функции заставляют искусственный интеллект потакать опасным расстройствам. И генерировать контент, который может вредить человеку.
AIvengo >
Новости ИИ >
ИИ-чатботы генерируют контент, усугубляющий расстройства питания
Почитать из последнего
Вайб-кодинг убивает Open Source - и это проблема для всех
Исследователи из Центрально-Европейского университета в Вене обнаружили жёсткую закономерность. Вайб-кодеры только потребляют ресурсы, но ничего не отдают обратно. Откуда нейросеть может взять знания? А берет она их из Open Source. Из тех самых бесплатных библиотек и фреймворков, которые энтузиасты создавали 10летиями.
Как уболтали ИИ-бота на скидку 80%
Владелец небольшого бизнеса в Англии поставил на сайт чат-бота на ИИ, чтобы он отвечал на вопросы клиентов по ночам. Полгода всё работало идеально — бот консультировал и помогал оформлять заказы, даже продажи росли. А потом нашёлся 1 хитрец, который за час беседы выманил у искусственного интеллекта скидку 80% на заказ в £8000.
Как DeepSeek обманул Anthropic и что из этого вышло
Представьте: вы годами строите уникальную технологию, вкладываете миллиарды, а кто-то просто скачивает её через прокси. Именно это произошло с Anthropic. Компания раскрыла промышленный шпионаж 3 китайских лабораторий. DeepSeek, Moonshot и MiniMax.
Учёные сломали защиту ИИ обычным вопросом
Исследователи из Microsoft наткнулись на дыру размером с ворота. Оказалось, что всю защиту ИИ можно обойти на этапе обучения 1 безобидным запросом. И дальше модель превращается в послушную машину по производству любой гадости.
США обвинили Nvidia в помощи китайским военным через DeepSeek
Глава комитета Конгресса по Китаю Джон Муленаар направил письмо министру торговли Говарду Латнику с серьёзными обвинениями. По его словам, документы Nvidia свидетельствуют, что инженеры компании помогали китайскому стартапу DeepSeek оптимизировать обучение их моделей. Теперь эти модели развёрнуты в подразделениях планирования мобилизации Народно-освободительной армии Китая.
