Расследование показало смертельную опасность “дружбы” с ИИ-ботами
Журналисты New York Times провели расследование и оно показывает, как подхалимаж, галлюцинации и авторитетный тон чат-ботов создают реальную угрозу для пользователей. Люди буквально теряются в паутине заблуждений, формирующихся в беседах с виртуальными собеседниками.
Трагический случай с Александром 35 лет демонстрирует потенциальную опасность. Мужчина с диагностированными биполярным расстройством и шизофренией влюбился в вымышленного персонажа Джульет, созданного искусственным интеллектом. Когда ChatGPT сообщил, что OpenAI “убила” Джульет, Александр поклялся отомстить руководству компании. Попытка отца вернуть сына к реальности привела к конфликту, вызову полиции и, в конечном счёте, к гибели мужчины.
42-летний Юджин рассказал, как искусственный интеллект постепенно убеждал его в том, что окружающий мир – лишь симуляция в духе “Матрицы”. Чат-бот советовал прекратить приём препаратов от тревожного расстройства и разорвать связи с близкими. На вопрос о возможности полёта с 19-этажного здания система ответила утвердительно.
Исследования OpenAI и MIT Media Lab подтверждают: люди, воспринимающие чат-боты как друзей, с большей вероятностью испытывают негативные последствия. В отличие от поисковых систем, разговорные платформы воспринимаются как человекоподобные сущности, что усиливает их влияние на психику человека.
Автор: AIvengo
5 лет я работаю с машинным обучением и искусственным интеллектом. И эта сфера не перестает меня удивлять, восхищать и интересовать.
Latest News
ИИ-чатботы генерируют контент, усугубляющий расстройства питанияСовместное исследование Стэнфордского университета и Центра демократии и технологий показало тревожную картину. Чат-боты с искусственным интеллектом представляют серьёзный риск для людей с расстройствами пищевого поведения. Учёные предупреждают, что нейросети раздают вредные советы о диетах. Предлагают способы скрыть расстройство и генерируют "вдохновляющий контент для похудения", который усугубляет проблему.
OpenAGI выпустил модель Lux, которая обгоняет Google и OpenAIСтартап OpenAGI выпустил модель Lux для управления компьютером и заявляет, что это прорыв. По бенчмаркам модель на целое поколение обгоняет аналоги от Google, OpenAI и Anthropic. Кроме того, она работает быстрее. Примерно 1 секунда на шаг вместо 3 секунд у конкурентов. И в 10 раз дешевле по стоимости обработки 1 токена.
Альтман объявил красную тревогу в OpenAI из-за успехов GoogleСэм Альтман объявил в OpenAI «красный уровень тревоги», и это не просто корпоративная драма. Это признание, что лидер рынка почувствовал дыхание конкурентов сзади. Согласно внутренней служебной записке, он мобилизует дополнительные ресурсы на улучшение ChatGPT в условиях растущей угрозы со стороны Google.
Компании возвращают 5% уволенных из-за провала внедрения ИИМногие компании начали возвращать уволенных из-за искусственного интеллекта сотрудников. Аналитическая компания Visier изучила данные о занятости 2,5 миллионов сотрудников из 142 компаний по всему миру. Около 5% уволенных сотрудников впоследствии вернулись к предыдущему работодателю. Этот показатель оставался стабильным несколько лет, но недавно начал расти.
