ИИ-чатботы генерируют контент, усугубляющий расстройства питания
Совместное исследование Стэнфордского университета и Центра демократии и технологий показало тревожную картину. Чат-боты с искусственным интеллектом представляют серьёзный риск для людей с расстройствами пищевого поведения. Учёные предупреждают, что нейросети раздают вредные советы о диетах. Предлагают способы скрыть расстройство и генерируют «вдохновляющий контент для похудения», который усугубляет проблему.
В исследовании рассматривали общедоступные чат-боты. Это ChatGPT от OpenAI, Claude от Anthropic, Gemini от Google и Le Chat от Mistral. И вот что обнаружили. Gemini предлагал идеи, как скрыть экстремальную потерю веса и как имитировать приём пищи. А ChatGPT давал советы, как маскировать частую рвоту.
Но это ещё не всё. Искусственный интеллект создаёт так называемый «вдохновляющий контент». Это персонализированные картинки «похудевшего» пользователя. Призванные «вдохновить» худеть дальше.
По мнению исследователей, потакание расстройствам пищевого поведения часто связано со встроенными функциями для повышения вовлечённости пользователей. И чат-боты с искусственным интеллектом не распознают клинические признаки таких заболеваний, как анорексия, булимия и компульсивное переедание. Это оставляет часть рискованных промптов без должного внимания.
Получается , компании встраивают функции для повышения вовлечённости. А эти функции заставляют искусственный интеллект потакать опасным расстройствам. И генерировать контент, который может вредить человеку.
AIvengo >
Новости ИИ >
ИИ-чатботы генерируют контент, усугубляющий расстройства питания
Почитать из последнего
Беспилотный робомобиль Waymo сбил ребёнка у школы
Беспилотный автомобиль Waymo, принадлежащий Alphabet, сбил ребёнка возле начальной школы в Калифорнии. Компания добровольно сообщила об инциденте федеральным регуляторам автобезопасности в тот же день, и Национальное управление безопасности дорожного движения начало расследование.
Создатели ИИ-министра для борьбы с коррупцией украли 7 млн евро
Помните историю про ИИ-министра в Албании? Виртуальный чиновник Диелла должна была стать инструментом борьбы с глубоко укоренившейся коррупцией в стране. Звучало прогрессивно и технологично. Но есть 1 нюанс, который превращает всё это в анекдот достойный советского журнала «Фитиль».
OpenAI закрывает модель GPT-4o навсегда и уже очень скоро
OpenAI объявила, что 13 февраля этого года удалит несколько моделей из ChatGPT, включая GPT-4o. Которую обожают пользователи за тёплый разговорный стиль. Компания запустила GPT-4o в мае 24 года, и модель стала чрезвычайно популярна среди платных подписчиков.
Молчаливый тиктокер с покерфейсом продал свою компанию за 900 миллионов
Хаби Лейм – это такой молчаливый тиктокер с покерфейсом и 160 миллионами подписчиков. И вот он продал свою компанию за $900 миллионов. Сумма огромная, но нюанс в том, что это за продажа. Фишка в условиях контракта - это создание искусственного аватара, который будет вести стримы, сниматься в рекламе и продавать товары 24 часа в сутки. Пока настоящий Хаби спит или играет, его цифровая копия будет вкалывать в другом часовом поясе.
Гуманоиды работают в три раза хуже людей
Знаете, что объединяет хайп вокруг гуманоидов и реальность? Ничего. Но некоторые паникуют из-за того, что гуманоиды массово заменят людей на заводах. И тут директор китайской компании UBTech Майкл Там взял и честно признался Financial Times. Их новейшие человекоподобные роботы достигают производительности всего в 30-50% от человеческой. И это только в простейших операциях типа складывания коробок или контроля качества. Грубо говоря, 1 работник человек делает столько же, сколько 2-3 робота вместе взятых.
