ИИ-чатботы генерируют контент, усугубляющий расстройства питания
Совместное исследование Стэнфордского университета и Центра демократии и технологий показало тревожную картину. Чат-боты с искусственным интеллектом представляют серьёзный риск для людей с расстройствами пищевого поведения. Учёные предупреждают, что нейросети раздают вредные советы о диетах. Предлагают способы скрыть расстройство и генерируют «вдохновляющий контент для похудения», который усугубляет проблему.
В исследовании рассматривали общедоступные чат-боты. Это ChatGPT от OpenAI, Claude от Anthropic, Gemini от Google и Le Chat от Mistral. И вот что обнаружили. Gemini предлагал идеи, как скрыть экстремальную потерю веса и как имитировать приём пищи. А ChatGPT давал советы, как маскировать частую рвоту.
Но это ещё не всё. Искусственный интеллект создаёт так называемый «вдохновляющий контент». Это персонализированные картинки «похудевшего» пользователя. Призванные «вдохновить» худеть дальше.
По мнению исследователей, потакание расстройствам пищевого поведения часто связано со встроенными функциями для повышения вовлечённости пользователей. И чат-боты с искусственным интеллектом не распознают клинические признаки таких заболеваний, как анорексия, булимия и компульсивное переедание. Это оставляет часть рискованных промптов без должного внимания.
Получается , компании встраивают функции для повышения вовлечённости. А эти функции заставляют искусственный интеллект потакать опасным расстройствам. И генерировать контент, который может вредить человеку.
AIvengo >
Новости ИИ >
ИИ-чатботы генерируют контент, усугубляющий расстройства питания
Почитать из последнего
ChatGPT обогнал Netflix по выручке в Южной Корее
В Южной Корее выбрали, на что тратить деньги. Аналитики из Aicel Technologies подсчитали, что ежемесячный объём платежей за подписки на ИИ достиг $60 миллионов. Для сравнения, средняя месячная выручка Netflix в стране составляет около $50 миллионов. Получается, искусственный интеллект обогнал стриминг. Который казался незыблемым чемпионом по монетизации подписок.
Claude работает по своей конституции
Anthropic выложила новую конституцию Claude. И это реальная инструкция, по которой нейросеть принимает решения в сложных ситуациях. Раньше всё было просто: вот тебе список запретов, не делай это и то, работай по инструкции. Но компания поняла, что такой подход ломается при 1 же нестандартном кейсе, потому что модель не понимает «почему так». Теперь идея радикально другая. Claude должен не следовать правилам слепо, а мыслить через систему ценностей.
Гуманоид вышел на пробежку, но бывший инженер предупреждает об опасности
Компания Figure AI решила показать миру, как её робот-гуманоид бегает наравне с людьми. Руководитель Бретт Эдкок выложил видео, где железный парень уверенно движется рядом с сотрудниками, не отставая ни на шаг. Издание Digital Trends уже фантазирует: представьте, робот как персональный тренер задаёт вам темп для подготовки к 1 марафону! Звучит круто, правда?
Победитель AI Film Award получил миллион долларов
Google вручил 1 кинопремию для фильмов созданных ИИ. Миллион долларов получил Зубейр Эль-Джласси из Туниса за короткометражку Лили. Парень работает графическим дизайнером и режиссёром, использовал генератор Veo для видео и Gemini для подготовки сцен.
