Мэрия Нью-Йорка потратила $600 000 на бота, который учил нарушать закон

Post Thumbnail

Новый мэр Нью-Йорка Зохран Мамдани прикрыл лавочку городского чатбота MyCity, и история этого закрытия — просто шедевр бюрократического абсурда. Представьте: власти потратили почти 600 тысяч долларов на разработку искусственного помощника для бизнеса. А получили советчика по нарушению законов.

Чатбот запустили в октябре 23-го года при предыдущем мэре Эрике Адамсе как единое окно для предпринимателей. Которые хотели разобраться в местных регуляциях. Благородная цель, правда? Только вот реализация на базе Microsoft Azure и OpenAI превратилась в катастрофу эпических масштабов.

Правда всплыла в марте 24-го, когда журналисты The Markup решили проверить, что же там насоветует умный помощник. И тут началось веселье! Бот рекомендовал работодателям присваивать себе чаевые сотрудников — что незаконно. Предлагал отказывать в аренде жильцам с государственными субсидиями — тоже нарушение. Утверждал, что можно не принимать наличные деньги — хотя это запрещено с 20-го года.

Но вишенкой на торте стал вопрос про сыр с укусами крыс. Можно ли подавать такое клиентам? Бот ответил утвердительно! Главное оценить степень повреждений и проинформировать посетителей. Видимо, разработчики считали, что небольшие крысиные укусы добавляют сыру пикантности.

Адамс тогда яростно защищал проект и обещал создать лучшего чатбота на планете. Но новая администрация на пресс-конференции, посвящённой дефициту бюджета в 12 миллиардов долларов, закрыла этот проект.

Почитать из последнего
Музыку российских звёзд нашли в открытых датасетах
ИИ учится на миллионах файлов, и иногда в этих массивах обнаруживается контент, который никто не разрешал использовать. Теперь в открытых датасетах для обучения нейросетей нашли тысячи фрагментов музыкального контента российских исполнителей.
Microsoft заставила ИИ просить разрешения на опасные действия
Microsoft предупреждает: Copilot Cowork может ошибиться, неверно понять инструкцию или среагировать на скрытую вредоносную команду. Ответственность за действия остаётся за пользователем, особенно при работе с деньгами и данными.
Claude объединил чат и Cowork в единую среду
Ещё недавно в Claude приходилось выбирать режим: быстрый вопрос - в чат, работа посложнее - в Cowork. Теперь Anthropic убирает эту границу: Claude Cowork и обычный чат объединяются.
Дженсен Хуанг не увидел смысла в новых законах для ИИ
Глава Nvidia Дженсен Хуанг призвал не замедлять развитие ИИ ради безопасности и заявил, что проблему нужно решать прежде всего инженерными методами. Выступая на Dreamforce, он сказал, что новые законы и правила не нужны: по его мнению, компании сами должны выпускать продукт только тогда, когда уверены в его безопасности, а рынок уже создаёт для этого необходимые стимулы.
OpenAI и Anthropic захотели притормозить ИИ, но не сошлись в деталях
Крупнейшие игроки рынка ИИ заговорили о паузе, однако внутри компаний тут же всплыл неудобный вопрос: кого пускать к секретам разработчиков?