Post Thumbnail

DeepSeek вместо терапевта: почему китайцы плачут чатботам

Представьте: вам плохо, тревожно, депрессия накрывает. И вы идёте не к психологу, а к искусственному интеллекту. Звучит как антиутопия? Для молодых китайцев это уже реальность. И знаете что самое интересное? Они в восторге от этого.

Вот история Цзиин Чжан. Она нутрициолог и коуч по здоровью. 4 года ходила к настоящему терапевту, а потом попробовала DeepSeek. И была поражена. Искусственный интеллект доступен круглосуточно, бесплатен, никогда не осуждает, даёт широкий спектр советов. Можно даже настроить его голос под любимых мотивационных спикеров. Цзиин побежала делиться опытом в соцсети Сяохуншу и призывать других. Мол, представьте себе терапевта 24 на 7, который никогда вас не осудит и абсолютно бесплатен!

И народ откликнулся. На той же Сяохуншу запросы вроде “плакала после чата с искусственным интеллектом” связаны с более чем миллионом постов. В 1 вирусном посте девушка рассказывает, как выплакалась ночью DeepSeek, растроганная его советами и поддержкой. “DeepSeek, объявляю тебя моим лучшим электронным другом!” – написала она.

Что любопытно, исследование Гарвардского бизнес-обзора показало, что помощь с психическим здоровьем – 1 из главных причин использования чатботов по всему миру. А опрос китайской молодёжи выявил, что почти половина уже использовала чатботы для обсуждения своих ментальных проблем.

Но вот тут начинается самое интересное. Психические заболевания среди молодых китайцев растут как на дрожжах, и стартапы с техногигантами несутся заполнять эту нишу. В государственном реестре алгоритмов больше дюжины платформ для ментального здоровья. Это Good Mood AI Companion, Lovelogic, PsychSnail. Популярные стартапы вроде KnowYourself добавили инструменты искусственного интеллекта. Гигант JD Health запустил AI-компаньона под названием “маленькая вселенная для разговоров и исцеления”. Красиво звучит, правда?

А теперь реальность. Психотерапия в Китае – всё ещё новая область. В отличие от США, сектор практически не регулируется. Психиатры имеют медицинские дипломы, но стандартной сертификации для консультантов нет. Результат? Некомпетентные терапевты и псевдонаучные методы лечения повсюду. Почти 80% обычных больниц вообще не имеют психиатрического отделения. Записаться сложно, дорого, платить приходится из своего кармана.

И вот молодёжь выбирает чатботы. Сеанс психотерапии в Пекине стоит от 50 до 100 долларов. Что непозволительная роскошь при зашкаливающей безработице среди молодых. 1 пользовательница назвала свои чаты с искусственным интеллектом “понижением потребления”. Безработная, не способная позволить себе терапию, она заменила живого специалиста чатботом.

А теперь самое интересное. В Китае 31 критерий риска, которые компании должны протестировать в своих чатботах. Но конкретных правил для терапии нет. Критерии больше сфокусированы на борьбе с медицинской дезинформацией.

Но учёные говорят, что использование чатботов для ментальной поддержки несёт риски серьёзного вреда. Это психозы, связанные с чатботами. Исследователи Стэнфордского университета обнаружили, что большие языковые модели склонны к подхалимству: они валидируют и эхом повторяют чувства пользователей некритично, неадекватно реагируют на бред и плохие мысли.

По словам Джареда Мура, докторанта Стэнфорда, если у вас навязчивые мысли и вы ищете успокоения, большая языковая модель скажет не волноваться и в итоге усилит эти мысли.

Меня всегда в этих исследованиях тревожит 1 факт. А где исследования, сколько людей получили помощь от этих чат-ботов? Сколько людей не сделали плохих поступков? Сколько людей получили психологическую помощь? Когда раньше не могли пойти на приём к психологу. Сейчас очень однобокая статистика получается. И исправлять это пока никто не собирается.

Автор: AIvengo
5 лет я работаю с машинным обучением и искусственным интеллектом. И эта сфера не перестает меня удивлять, восхищать и интересовать.
Latest News
UBTech отправит роботов Walker S2 служить на границу Китая за $37 млн

Китайская компания UBTech выиграла контракт на $37 миллионов. И отправит человекоподобных роботов Walker S2 служить на границу Китая с Вьетнамом. South China Morning Post сообщает, что роботы будут взаимодействовать с туристами и персоналом, выполнять логистические операции, досматривать грузы и патрулировать местность. И что характерно — они умеют самостоятельно менять свою батарею.

Anthropic случайно раскрыла внутренний документ о "душе" Claude

Anthropic случайно раскрыла пользователю "душу" искусственного интеллекта. И это не метафора. Это вполне конкретный внутренний документ.

Дженсен Хуанг приказал сотрудникам Nvidia использовать ИИ везде

Дженсен Хуанг объявил внутри Nvidia тотальную мобилизацию под знаменем искусственного интеллекта. И это уже не рекомендация. Это требование.

ИИ-чатботы генерируют контент, усугубляющий расстройства питания

Совместное исследование Стэнфордского университета и Центра демократии и технологий показало тревожную картину. Чат-боты с искусственным интеллектом представляют серьёзный риск для людей с расстройствами пищевого поведения. Учёные предупреждают, что нейросети раздают вредные советы о диетах. Предлагают способы скрыть расстройство и генерируют "вдохновляющий контент для похудения", который усугубляет проблему.

OpenAGI выпустил модель Lux, которая обгоняет Google и OpenAI

Стартап OpenAGI выпустил модель Lux для управления компьютером и заявляет, что это прорыв. По бенчмаркам модель на целое поколение обгоняет аналоги от Google, OpenAI и Anthropic. Кроме того, она работает быстрее. Примерно 1 секунда на шаг вместо 3 секунд у конкурентов. И в 10 раз дешевле по стоимости обработки 1 токена.