ИИ превратил полицейского в лягушку из-за Disney

Post Thumbnail

Полиция города Хибер-Сити в США тестировала софт Draft One для автоматического написания отчётов. Программа на ИИ должна была проанализировать видео с нательной камеры офицера и выдать документ. Вместо этого она заявила, что полицейский превратился в лягушку. Серьёзно.

Сержант Кил рассказал, как получился этот цирк. Во время записи на фоне крутился мультик Disney «Принцесса и лягушка», и искусственный интеллект принял аудиодорожку за то, что происходит на самом деле. Вот тогда в полиции и поняли, насколько важно проверять эти быстрые умные отчёты.

Департамент тестирует 2 системы – Draft One от Axon и Code Four. Именно Draft One виновен в лягушачьем инциденте. Работает на GPT-4 Turbo, генерирует отчёты на основе аудио с нательных камер. Система встроена в экосистему Axon – это крупнейший поставщик тейзеров и камер для американских копов. Стоит от $65 до $70 в месяц на офицера.

Систем понимает английский и испанский. Журналисты смотрели демо Code Four: полицейские разыграли учебную остановку тачки, ИИ выдал более-менее адекватный отчёт, правда требующий правок.

А теперь про то, зачем вообще это всё нужно. По словам сержанта Кила, технология экономит ему от 6 до 8 часов в неделю – раньше на написание отчётов уходило от 1 до 2 часов за раз. Он говорит, что не особо разбирается в технике, но софт удобный.

Вот только после истории с лягушкой стало ясно: автоматизация автоматизацией, а проверять всё равно надо.

Axon, Code Four, Disney, Draft One
AIvengo > Новости ИИ > ИИ превратил полицейского в лягушку из-за Disney
Почитать из последнего
Создатели ИИ стали его первыми жертвами
OpenAI планирует значительно замедлить темпы роста и сократить набор новых сотрудников. По данным Business Insider, гендиректор Сэм Альтман заявил, что ИИ изменил темпы роста штата компании. Ирония ситуации в том, что создатели технологии, которая должна заменять людей, сами стали её первыми жертвами.
Oracle потеряла 463 миллиарда из-за паники вокруг ИИ
Акции Oracle рухнули более чем на 50 процентов по сравнению с прошлогодним историческим максимумом. Падение привело к снижению рыночной стоимости примерно на 463 миллиарда долларов по сравнению с рекордом, достигнутым 10 сентября. Когда компания представила впечатляющие перспективы облачного бизнеса и растущий спрос на ИИ. Тогда стоимость превысила 933 миллиарда долларов, что сделало её десятой по стоимости публичной компанией в США.
Магазины в США вытаскивают память и видеокарты из витринных ПК из-за воров
Американские магазины начали изымать модули оперативной памяти и видеокарты из витринных образцов игровых компьютеров из-за участившихся краж. Например, розничная сеть Costco столкнулась с проблемой настолько массово, что теперь показывает ПК вообще без внутренностей. Просто корпуса с работающей RGB-подсветкой и вентиляторами.
Airtable потеряла две трети стоимости и запустила ИИ, который её убьёт
Представьте: ваша компания рухнула с 11 миллиардов до 4, инвесторы в шоке, опционы сотрудников превратились в тыкву. Что делать? Логично было бы затаиться и латать дыры. Но основатель Airtable Хоуи Лю, делает ровно наоборот. Запускает совершенно новый продукт, который может похоронить его основной бизнес.
Гуманоид с бровями будет приносить вам зубные щётки в отеле
Американский стартап Fauna представил человекоподобного робота Sprout, и это не очередная железяка для склада. Его задача — быть компаньоном в гостиницах, ресторанах и магазинах. Принести стакан воды, подать зубную щётку, сопроводить до номера. Цена — 50 тысяч долларов, но Disney и Boston Dynamics уже среди первых покупателей.