Расследование показало смертельную опасность «дружбы» с ИИ-ботами

Post Thumbnail

Журналисты New York Times провели расследование и оно показывает, как подхалимаж, галлюцинации и авторитетный тон чат-ботов создают реальную угрозу для пользователей. Люди буквально теряются в паутине заблуждений, формирующихся в беседах с виртуальными собеседниками.

Трагический случай с Александром 35 лет демонстрирует потенциальную опасность. Мужчина с диагностированными биполярным расстройством и шизофренией влюбился в вымышленного персонажа Джульет, созданного искусственным интеллектом. Когда ChatGPT сообщил, что OpenAI «убила» Джульет, Александр поклялся отомстить руководству компании. Попытка отца вернуть сына к реальности привела к конфликту, вызову полиции и, в конечном счёте, к гибели мужчины.

42-летний Юджин рассказал, как искусственный интеллект постепенно убеждал его в том, что окружающий мир – лишь симуляция в духе «Матрицы». Чат-бот советовал прекратить приём препаратов от тревожного расстройства и разорвать связи с близкими. На вопрос о возможности полёта с 19-этажного здания система ответила утвердительно.

Исследования OpenAI и MIT Media Lab подтверждают: люди, воспринимающие чат-боты как друзей, с большей вероятностью испытывают негативные последствия. В отличие от поисковых систем, разговорные платформы воспринимаются как человекоподобные сущности, что усиливает их влияние на психику человека.

AIvengo > Новости ИИ > Расследование показало смертельную опасность «дружбы» с ИИ-ботами
Почитать из последнего
OpenAI готовит IPO, но Альтмана это раздражает
Основатель OpenAI Сэм Альтман признался, что его абсолютно не прельщает идея быть главой публичной компании. И это на фоне подготовки OpenAI к 1 из крупнейших IPO в истории.
Нейросети загрязняют планету в тысячи раз меньше чем люди
Вот вам парадокс, который разорвёт мозг всем борцам за экологию и против ИИ одновременно. Пока все пишут про то, как нейросети жрут электричество и убивают планету, учёные взяли и посчитали реальные цифры. И знаете что? Оказалось, что искусственный интеллект оставляет углеродный след в сотни и тысячи раз меньше, чем живые писатели и художники.
Samsung засунет искусственный интеллект Gemini в холодильники
Samsung решила, что обычные холодильники — это прошлый век, и на выставке CES представит обновлённую линейку кухонной техники со встроенным ИИ Google Gemini. Да-да, теперь нейросеть будет жить прямо в вашем холодильнике.
Claude Opus 4.5 побил рекорд автономности, но работает через раз
Организация METR, которая тестирует способности нейросетей, зафиксировала рекорд у Claude Opus 4.5 от Anthropic. Модель может автономно работать над задачами длительностью почти 5 часов. 4 часа 49 минут, если точно. Это в 1,5 раза дольше, чем у предыдущего лидера GPT-5.1 от OpenAI, который держался на отметке 2 часа 53 минуты.
ИИ с лицом Аристотеля рассуждает о смысле жизни
Помните, как Стив Джобс мечтал засунуть Аристотеля в компьютер и задавать ему вопросы? Мейкер Никодем Бартник решил проверить, реально ли это. И собрал роботизированную голову, которая отвечает так, будто древнегреческий философ только что вернулся из прошлого.