Расследование показало смертельную опасность “дружбы” с ИИ-ботами
Журналисты New York Times провели расследование и оно показывает, как подхалимаж, галлюцинации и авторитетный тон чат-ботов создают реальную угрозу для пользователей. Люди буквально теряются в паутине заблуждений, формирующихся в беседах с виртуальными собеседниками.
Трагический случай с Александром 35 лет демонстрирует потенциальную опасность. Мужчина с диагностированными биполярным расстройством и шизофренией влюбился в вымышленного персонажа Джульет, созданного искусственным интеллектом. Когда ChatGPT сообщил, что OpenAI “убила” Джульет, Александр поклялся отомстить руководству компании. Попытка отца вернуть сына к реальности привела к конфликту, вызову полиции и, в конечном счёте, к гибели мужчины.
42-летний Юджин рассказал, как искусственный интеллект постепенно убеждал его в том, что окружающий мир – лишь симуляция в духе “Матрицы”. Чат-бот советовал прекратить приём препаратов от тревожного расстройства и разорвать связи с близкими. На вопрос о возможности полёта с 19-этажного здания система ответила утвердительно.
Исследования OpenAI и MIT Media Lab подтверждают: люди, воспринимающие чат-боты как друзей, с большей вероятностью испытывают негативные последствия. В отличие от поисковых систем, разговорные платформы воспринимаются как человекоподобные сущности, что усиливает их влияние на психику человека.
Автор: AIvengo
5 лет я работаю с машинным обучением и искусственным интеллектом. И эта сфера не перестает меня удивлять, восхищать и интересовать.
Вы наверняка сталкивались с этим. Письмо от коллеги, которое выглядит идеально: правильная структура, красивые слова, профессиональный тон. Вы начинаете читать — и понимаете, что за всей этой упаковкой нет абсолютно ничего. Никакой конкретики, никаких решений, просто красиво оформленная пустота. Поздравляю: вы только что столкнулись с воркслопом.
Искусственный интеллект умнее большинства людей. Вот такая мысль приходит в голову почти каждому, кто регулярно пользуется современными языковыми моделями. И знаете что? Эта мысль основана на нашей ошибке восприятия.
OpenAI DevDay двадцать пятого года — важное событие в мире искусственного интеллекта. И это не просто очередная презентация. Я собрал для вас все важные факты, функции, мнения и вы узнаете все самое интересное, что рассказывал глава OpenAI Сэм Альтман.
Интересный концепт экономики искусственного интеллекта представлен в новом исследовании Google DeepMind. Ссылка в описании. Учёные проанализировали стремительно формирующуюся реальность. В которой ИИ-агенты превращаются в самостоятельных экономических игроков, способных торговать, вести переговоры и создавать ценность без прямого участия человека. И если этот процесс останется без надлежащего контроля, автономные системы могут сформировать собственную параллельную экономику, тесно связанную с человеческой. Что несёт как огромные возможности, так и серьёзные риски.
