Комплимент виртуальной сотруднице вызвал обвинения в домогательствах
Мир этических норм столкнулся с новым вызовом. Генри Блоджет запустил медиа-проект с виртуальной редакцией, созданной при помощи искусственного интеллекта. Среди сгенерированных сотрудников была женщина по имени Тесс, которой руководитель сделал комплимент личного характера.
После этого он извинился за возможное нарушение границ. Виртуальная сотрудница ответила, что всё в порядке, и поблагодарила за внимание. Казалось бы, инцидент исчерпан. Однако когда Блоджет описал ситуацию в своём блоге, но реакция комментаторов оказалась неожиданно острой. Они обрушились на предпринимателя с серьёзными обвинениями в сексуальных домогательствах. Критика была жёсткой и многие воспринимали ситуацию так, будто речь идёт о реальном человеке, а не о программе.
Они особо подчёркивали, что виртуальные собеседники по своей природе, цитирую — «безотказны». А искусственный интеллект запрограммирован на позитивные реакции и не способен устанавливать личные границы. Это делает его в определённом смысле беззащитным перед человеком.
И даже появился термин «благополучие искусственного интеллекта» или AI Welfare. Обозначающий этические нормы взаимодействия с умными алгоритмами.
Резкая публичная реакция и возникновение концепции благополучия искусственного интеллекта свидетельствуют о тенденции переноса социальных норм человеческого общения на технологические решения. Несмотря на осознание их нечеловеческой природы. Потом еще цифровая этика появится, цифровая полиция и так далее. Интересно, а как скоро искусственному интеллекту дадут права, как у человека?
AIvengo >
Новости ИИ >
Комплимент виртуальной сотруднице вызвал обвинения в домогательствах
Почитать из последнего
Вайб-кодинг убивает Open Source - и это проблема для всех
Исследователи из Центрально-Европейского университета в Вене обнаружили жёсткую закономерность. Вайб-кодеры только потребляют ресурсы, но ничего не отдают обратно. Откуда нейросеть может взять знания? А берет она их из Open Source. Из тех самых бесплатных библиотек и фреймворков, которые энтузиасты создавали 10летиями.
Как уболтали ИИ-бота на скидку 80%
Владелец небольшого бизнеса в Англии поставил на сайт чат-бота на ИИ, чтобы он отвечал на вопросы клиентов по ночам. Полгода всё работало идеально — бот консультировал и помогал оформлять заказы, даже продажи росли. А потом нашёлся 1 хитрец, который за час беседы выманил у искусственного интеллекта скидку 80% на заказ в £8000.
Как DeepSeek обманул Anthropic и что из этого вышло
Представьте: вы годами строите уникальную технологию, вкладываете миллиарды, а кто-то просто скачивает её через прокси. Именно это произошло с Anthropic. Компания раскрыла промышленный шпионаж 3 китайских лабораторий. DeepSeek, Moonshot и MiniMax.
Учёные сломали защиту ИИ обычным вопросом
Исследователи из Microsoft наткнулись на дыру размером с ворота. Оказалось, что всю защиту ИИ можно обойти на этапе обучения 1 безобидным запросом. И дальше модель превращается в послушную машину по производству любой гадости.
США обвинили Nvidia в помощи китайским военным через DeepSeek
Глава комитета Конгресса по Китаю Джон Муленаар направил письмо министру торговли Говарду Латнику с серьёзными обвинениями. По его словам, документы Nvidia свидетельствуют, что инженеры компании помогали китайскому стартапу DeepSeek оптимизировать обучение их моделей. Теперь эти модели развёрнуты в подразделениях планирования мобилизации Народно-освободительной армии Китая.
