Расследование показало смертельную опасность «дружбы» с ИИ-ботами

Post Thumbnail

Журналисты New York Times провели расследование и оно показывает, как подхалимаж, галлюцинации и авторитетный тон чат-ботов создают реальную угрозу для пользователей. Люди буквально теряются в паутине заблуждений, формирующихся в беседах с виртуальными собеседниками.

Трагический случай с Александром 35 лет демонстрирует потенциальную опасность. Мужчина с диагностированными биполярным расстройством и шизофренией влюбился в вымышленного персонажа Джульет, созданного искусственным интеллектом. Когда ChatGPT сообщил, что OpenAI «убила» Джульет, Александр поклялся отомстить руководству компании. Попытка отца вернуть сына к реальности привела к конфликту, вызову полиции и, в конечном счёте, к гибели мужчины.

42-летний Юджин рассказал, как искусственный интеллект постепенно убеждал его в том, что окружающий мир – лишь симуляция в духе «Матрицы». Чат-бот советовал прекратить приём препаратов от тревожного расстройства и разорвать связи с близкими. На вопрос о возможности полёта с 19-этажного здания система ответила утвердительно.

Исследования OpenAI и MIT Media Lab подтверждают: люди, воспринимающие чат-боты как друзей, с большей вероятностью испытывают негативные последствия. В отличие от поисковых систем, разговорные платформы воспринимаются как человекоподобные сущности, что усиливает их влияние на психику человека.

AIvengo > Новости ИИ > Расследование показало смертельную опасность «дружбы» с ИИ-ботами
Почитать из последнего
Cloudflare даёт сайтам инструмент против обучения ИИ
Cloudflare решила разделить поисковых и обучающих ботов. Для владельца сайта разница принципиальна: поисковик способен привести читателя по ссылке, а обучающий бот просто забирает материал для модели, которая потом выдаёт содержание в ответе.
Рейтинг юристов по искусственному интеллекту 2026: как выбрать под AI-проект
Юрист по искусственному интеллекту — отдельная специализация, а не «IT-юрист, который слышал про нейросети». В 2026 году в России сформировались четыре типа таких практик: узкопрофильные бутики только по IT и AI, крупные фирмы по цифровому праву с AI-направлением, digital-бутики с фокусом на гранты и ЭПР, и гиперспециализированные команды по международному AI-комплаенсу. Различаются они по четырём осям: широта задач (от одного авторского спора до полного governance), международный контур, глубина работы с регуляторикой и модель работы. Ниже — что изменилось в законе в 2026 году, методология сравнения и разбор четырёх платформ: ПравоWeb, АБП, DGTLaw и AI Law.
В Siri обнаружили поддержку сторонних языковых моделей
Apple оставила в iOS 27 и macOS Golden Gate механизмы, которые позволяют подключать к Siri сторонние большие языковые модели. Датамайнер pdfu проверил их на практике и смог связать ассистента с Claude от Anthropic, а серверную модель Siri заменить на GPT-5.6 Terra от OpenAI.
Музыку российских звёзд нашли в открытых датасетах
ИИ учится на миллионах файлов, и иногда в этих массивах обнаруживается контент, который никто не разрешал использовать. Теперь в открытых датасетах для обучения нейросетей нашли тысячи фрагментов музыкального контента российских исполнителей.
Microsoft заставила ИИ просить разрешения на опасные действия
Microsoft предупреждает: Copilot Cowork может ошибиться, неверно понять инструкцию или среагировать на скрытую вредоносную команду. Ответственность за действия остаётся за пользователем, особенно при работе с деньгами и данными.