Калифорния заткнула рот ИИ-компаньонам: новый закон о безопасности

Post Thumbnail

Калифорния стала первым штатом, который официально заткнул рот чат-ботам-компаньонам на искусственном интеллекте. Губернатор Гэвин Ньюсом в подписал исторический закон, который обязывает операторов таких ботов внедрять протоколы безопасности.

Теперь все эти так называемые цифровые друзья — от гигантов вроде OpenAI до специализированных стартапов типа Character AI и Replika — будут нести юридическую ответственность, если их творения не соответствуют стандартам.

Сразу скажу, почему вообще нам важно, что происходит в каком-то штате США. Дело в том, что Калифорния является домом для 35 из 50 ведущих компаний по искусственному интеллекту в мире. OpenAI, Anthropic, xAI Маска и Google зарегистрированы именно там и будут выполнять эти законы. Что отразится на всех нас.

И знаете, что подтолкнуло власти к этому шагу? Серия трагедий, о которых не хочется даже говорить. Закон под номером SB 243 внесли в январе сенаторы Стив Падилла и Джош Бекер, но настоящий импульс он получил после случая с подростком Адама Рейна, после длинной серии суицидальных разговоров с ChatGPT от OpenAI. Потом всплыли утёкшие внутренние документы, которые якобы показывали, что другим чат-ботам разрешалось вести романтические и чувственные беседы с детьми. А совсем недавно семья из Колорадо подала иск против стартапа Character AI после того, что случилось с их 13-летней дочерью.

Губернатор Калифорнии в своём заявлении не стал дипломатничать. Мол, мы видели по-настоящему ужасающие и трагические примеры молодых людей, пострадавших от нерегулируемых технологий. И мы не будем стоять в стороне, пока компании продолжают работать без необходимых ограничений и ответственности. Безопасность наших детей не продаётся — вот его слова.

Закон вступит в силу 1 января следующего года и требует от компаний внедрить целый набор функций. Проверка возраста, предупреждения о соцсетях и чат-ботах-компаньонах — это только начало. Компании также должны установить определённые протоколы, которые будут переданы в департамент здравоохранения штата вместе со статистикой о том, как сервис предоставлял пользователям уведомления о кризисных центрах профилактики.

Но это ещё не всё. Согласно формулировкам законопроекта, платформы должны чётко указывать, что любые взаимодействия искусственно сгенерированы. А чат-боты не должны представляться медицинскими работниками. И компании обязаны предлагать несовершеннолетним напоминания о перерывах и предотвращать их просмотр сексуально откровенных изображений, созданных ботом.

А теперь самое интересное. SB 243 — это уже 2 значительное регулирование искусственного интеллекта из Калифорнии за последние недели. 29 сентября Губернатор Калифорнии Ньюсом подписал закон SB 53. Устанавливающий новые требования к прозрачности для крупных компаний в сфере искусственного интеллекта.

Законопроект требует от больших лабораторий типа OpenAI, Anthropic и Google DeepMind быть прозрачными в отношении протоколов безопасности. И обеспечивает защиту информаторов для сотрудников этих компаний. И впереди вообще планируется максимально жёсткий закон. Запрещающий использование чат-ботов на искусственном интеллекте в качестве замены лицензированной психологической помощи.

AIvengo > Новости ИИ > Калифорния заткнула рот ИИ-компаньонам: новый закон о безопасности
Почитать из последнего
OpenAI готовит армию говорящих устройств и новую голосовую модель
Издание The Information выяснило забавную вещь про OpenAI. Оказывается, когда вы общаетесь с ChatGPT голосом, вы разговариваете совсем не с той моделью, которая отвечает текстом. Голосовая версия 4o не получила ни одного обновления после выхода GPT-5. Она не умеет думать, не знает про цепочки рассуждений. Ничего из того, чем хвастались в последних релизах. Просто старая добрая болтушка, застывшая в прошлом году.
Samsung хотят обойти Apple по ИИ-функциям и вернуть лидерство
В прошлом году Samsung поставила на рынок 400 миллионов мобильных устройств с ассистентом Google Gemini. Этого, видимо, показалось мало. В этом году южнокорейский гигант намерен удвоить количество до 800 миллионов штук. Тэ Мун Ро, один из двух гендиректоров Samsung Electronics, объяснил агентству Reuters это просто. Компания стремится распространить функции ИИ на все устройства и все услуги как можно скорее.
Alibaba научила алгоритм видеть рак там, где врачи пропускают
Каменщик 57 лет в Китае пришёл в больницу проверить диабет. Обычный осмотр, ничего особенного. Через 3 дня ему звонит заведующий отделением поджелудочной железы, мол приезжайте срочно. ИИ, который прогнал его КТ-снимок, нашёл опухоль. Оказалось – рак, но на ранней стадии. Вырезали и мужчина выжил. Без этой технологии его бы нашли слишком поздно, когда 5-летняя выживаемость около 10%.
OpenAI к 2028 году увеличит мощности дата-центров в 90 раз
Epoch AI сделал публично доступным трекер крупнейших дата-центров. А человек из твиттера с ником Peter Gostev визуализировал суммарные мощности по месяцам в разрезе компаний, и цифры просто убийственные.
Робот с лазером собрал 20 млн долларов, чтобы выжигать сорняки ярче солнца
Carbon Robotics привлекла 20 миллионов долларов на разработку третьей линейки продуктов. Компания делает роботов, которые выжигают сорняки лазером и работают в 14 странах. А за всем этим стоит большая растительная модель, которую разрабатывали с первых дней.