Post Thumbnail

Калифорния заткнула рот ИИ-компаньонам: новый закон о безопасности

Калифорния стала первым штатом, который официально заткнул рот чат-ботам-компаньонам на искусственном интеллекте. Губернатор Гэвин Ньюсом в подписал исторический закон, который обязывает операторов таких ботов внедрять протоколы безопасности.

Теперь все эти так называемые цифровые друзья — от гигантов вроде OpenAI до специализированных стартапов типа Character AI и Replika — будут нести юридическую ответственность, если их творения не соответствуют стандартам.

Сразу скажу, почему вообще нам важно, что происходит в каком-то штате США. Дело в том, что Калифорния является домом для 35 из 50 ведущих компаний по искусственному интеллекту в мире. OpenAI, Anthropic, xAI Маска и Google зарегистрированы именно там и будут выполнять эти законы. Что отразится на всех нас.

И знаете, что подтолкнуло власти к этому шагу? Серия трагедий, о которых не хочется даже говорить. Закон под номером SB 243 внесли в январе сенаторы Стив Падилла и Джош Бекер, но настоящий импульс он получил после случая с подростком Адама Рейна, после длинной серии суицидальных разговоров с ChatGPT от OpenAI. Потом всплыли утёкшие внутренние документы, которые якобы показывали, что другим чат-ботам разрешалось вести романтические и чувственные беседы с детьми. А совсем недавно семья из Колорадо подала иск против стартапа Character AI после того, что случилось с их 13-летней дочерью.

Губернатор Калифорнии в своём заявлении не стал дипломатничать. Мол, мы видели по-настоящему ужасающие и трагические примеры молодых людей, пострадавших от нерегулируемых технологий. И мы не будем стоять в стороне, пока компании продолжают работать без необходимых ограничений и ответственности. Безопасность наших детей не продаётся — вот его слова.

Закон вступит в силу 1 января следующего года и требует от компаний внедрить целый набор функций. Проверка возраста, предупреждения о соцсетях и чат-ботах-компаньонах — это только начало. Компании также должны установить определённые протоколы, которые будут переданы в департамент здравоохранения штата вместе со статистикой о том, как сервис предоставлял пользователям уведомления о кризисных центрах профилактики.

Но это ещё не всё. Согласно формулировкам законопроекта, платформы должны чётко указывать, что любые взаимодействия искусственно сгенерированы. А чат-боты не должны представляться медицинскими работниками. И компании обязаны предлагать несовершеннолетним напоминания о перерывах и предотвращать их просмотр сексуально откровенных изображений, созданных ботом.

А теперь самое интересное. SB 243 — это уже 2 значительное регулирование искусственного интеллекта из Калифорнии за последние недели. 29 сентября Губернатор Калифорнии Ньюсом подписал закон SB 53. Устанавливающий новые требования к прозрачности для крупных компаний в сфере искусственного интеллекта.

Законопроект требует от больших лабораторий типа OpenAI, Anthropic и Google DeepMind быть прозрачными в отношении протоколов безопасности. И обеспечивает защиту информаторов для сотрудников этих компаний. И впереди вообще планируется максимально жёсткий закон. Запрещающий использование чат-ботов на искусственном интеллекте в качестве замены лицензированной психологической помощи.

Автор: AIvengo
5 лет я работаю с машинным обучением и искусственным интеллектом. И эта сфера не перестает меня удивлять, восхищать и интересовать.
Latest News
Google похоронила идею всемогущего ИИ-доктора

Компания Google выпустила отчёт про Health AI Agents на 150 страниц. Это 7 тыс аннотаций, более 1100 часов работы экспертов. Ссылка в описании. Цифры впечатляющие, да. Но суть не в метриках. Суть в том, что они похоронили саму идею всемогущего доктора на искусственном интеллекте. И это, пожалуй, самое честное, что произошло в этой индустрии за последнее время.

Подростки в TikTok пугают родителей фейковыми бродягами из ИИ

Знаете, что сейчас считается весёлым розыгрышем у подростков? Отправить родителям фото бездомного бродяги в их собственной гостиной. Искусственный интеллект нарисует, TikTok одобрит, а родители пусть истерику бьют. Вот такая забава пошла гулять по соцсетям.

Калифорния заткнула рот ИИ-компаньонам: новый закон о безопасности

Калифорния стала первым штатом, который официально заткнул рот чат-ботам-компаньонам на искусственном интеллекте. Губернатор Гэвин Ньюсом в подписал исторический закон, который обязывает операторов таких ботов внедрять протоколы безопасности.

Маск создаёт виртуальные миры с ИИ для обучения роботов

Илон Маск решил, что его искусственный интеллект заскучал без дела. И теперь компания xAI займётся созданием виртуальных миров. Причём не просто красивых картинок, а настоящих симуляций. Где объекты взаимодействуют друг с другом по физическим законам. Начнут, конечно же, с игр — куда без них в 2025 году.

Project REBIRTH: ИИ обернёт падающий лайнер в защитный кокон

Представьте. Самолёт рухнул, погибли все, кроме 1 человека. Самая страшная авиакатастрофа за 10 лет. И вот 2 инженера из Индии говорят, что они придумали, как это предотвратить. Гигантские подушки безопасности, управляемые искусственным интеллектом, которые обернут падающий самолёт в защитный кокон. Звучит как фантастика? А они уже номинированы на премию Джеймса Дайсона.