Калифорния заткнула рот ИИ-компаньонам: новый закон о безопасности

Post Thumbnail

Калифорния стала первым штатом, который официально заткнул рот чат-ботам-компаньонам на искусственном интеллекте. Губернатор Гэвин Ньюсом в подписал исторический закон, который обязывает операторов таких ботов внедрять протоколы безопасности.

Теперь все эти так называемые цифровые друзья — от гигантов вроде OpenAI до специализированных стартапов типа Character AI и Replika — будут нести юридическую ответственность, если их творения не соответствуют стандартам.

Сразу скажу, почему вообще нам важно, что происходит в каком-то штате США. Дело в том, что Калифорния является домом для 35 из 50 ведущих компаний по искусственному интеллекту в мире. OpenAI, Anthropic, xAI Маска и Google зарегистрированы именно там и будут выполнять эти законы. Что отразится на всех нас.

И знаете, что подтолкнуло власти к этому шагу? Серия трагедий, о которых не хочется даже говорить. Закон под номером SB 243 внесли в январе сенаторы Стив Падилла и Джош Бекер, но настоящий импульс он получил после случая с подростком Адама Рейна, после длинной серии суицидальных разговоров с ChatGPT от OpenAI. Потом всплыли утёкшие внутренние документы, которые якобы показывали, что другим чат-ботам разрешалось вести романтические и чувственные беседы с детьми. А совсем недавно семья из Колорадо подала иск против стартапа Character AI после того, что случилось с их 13-летней дочерью.

Губернатор Калифорнии в своём заявлении не стал дипломатничать. Мол, мы видели по-настоящему ужасающие и трагические примеры молодых людей, пострадавших от нерегулируемых технологий. И мы не будем стоять в стороне, пока компании продолжают работать без необходимых ограничений и ответственности. Безопасность наших детей не продаётся — вот его слова.

Закон вступит в силу 1 января следующего года и требует от компаний внедрить целый набор функций. Проверка возраста, предупреждения о соцсетях и чат-ботах-компаньонах — это только начало. Компании также должны установить определённые протоколы, которые будут переданы в департамент здравоохранения штата вместе со статистикой о том, как сервис предоставлял пользователям уведомления о кризисных центрах профилактики.

Но это ещё не всё. Согласно формулировкам законопроекта, платформы должны чётко указывать, что любые взаимодействия искусственно сгенерированы. А чат-боты не должны представляться медицинскими работниками. И компании обязаны предлагать несовершеннолетним напоминания о перерывах и предотвращать их просмотр сексуально откровенных изображений, созданных ботом.

А теперь самое интересное. SB 243 — это уже 2 значительное регулирование искусственного интеллекта из Калифорнии за последние недели. 29 сентября Губернатор Калифорнии Ньюсом подписал закон SB 53. Устанавливающий новые требования к прозрачности для крупных компаний в сфере искусственного интеллекта.

Законопроект требует от больших лабораторий типа OpenAI, Anthropic и Google DeepMind быть прозрачными в отношении протоколов безопасности. И обеспечивает защиту информаторов для сотрудников этих компаний. И впереди вообще планируется максимально жёсткий закон. Запрещающий использование чат-ботов на искусственном интеллекте в качестве замены лицензированной психологической помощи.

AIvengo > Новости ИИ > Калифорния заткнула рот ИИ-компаньонам: новый закон о безопасности
Почитать из последнего
Молчаливый тиктокер с покерфейсом продал свою компанию за 900 миллионов
Хаби Лейм – это такой молчаливый тиктокер с покерфейсом и 160 миллионами подписчиков. И вот он продал свою компанию за $900 миллионов. Сумма огромная, но нюанс в том, что это за продажа. Фишка в условиях контракта - это создание искусственного аватара, который будет вести стримы, сниматься в рекламе и продавать товары 24 часа в сутки. Пока настоящий Хаби спит или играет, его цифровая копия будет вкалывать в другом часовом поясе.
Гуманоиды работают в три раза хуже людей
Знаете, что объединяет хайп вокруг гуманоидов и реальность? Ничего. Но некоторые паникуют из-за того, что гуманоиды массово заменят людей на заводах. И тут директор китайской компании UBTech Майкл Там взял и честно признался Financial Times. Их новейшие человекоподобные роботы достигают производительности всего в 30-50% от человеческой. И это только в простейших операциях типа складывания коробок или контроля качества. Грубо говоря, 1 работник человек делает столько же, сколько 2-3 робота вместе взятых.
Clawdbot слил ключи и переписки сотен пользователей (я вас предупреждал)
Я вчера вам рассказывал про открытый ИИ-ассистент Clawdbot, который взорвал GitHub. 60 тысяч звёзд за 3 дня, все в восторге, все ставят себе. Но я вас предупредил про безопасность. И тут исследователь Джеймисон О'Рейли просто вбивает пару запросов и находит сотни публично доступных серверов. Без аутентификации. С API-ключами, токенами мессенджеров и полной историей переписок на блюдечке.
Ведущие учёные по ИИ попались на выдуманных ИИ цитатах
Когда престижная конференция по ИИ сама становится жертвой галлюцинаций нейросетей, ирония зашкаливает. GPTZero просканировал все 4841 работу, принятую на Conference on Neural Information Processing Systems в декабре в Сан-Диего. И обнаружил 100 подтверждённых фальшивых цитат в 51 статье. Причём речь идёт о ведущих умах индустрии искусственного интеллекта.
OpenAI запускает рекламу в ChatGPT от 60 долларов
OpenAI решила монетизировать ChatGPT через рекламу, и цены оказались космическими. Около $60 за 1000 просмотров. Это уровень премиум-контента на телевидении вроде матчей NFL, когда миллионы людей смотрят одновременно. И бренды готовы платить безумные деньги. Только вот между телетрансляцией финала чемпионата и чатботом есть небольшая разница. Это масштаб аудитории и проверенная модель монетизации.