ChatGPT Atlas уязвим к промпт-инъекциям и может помогать фишингу
Я рассказывал про то, что компания OpenAI выпустила браузер ChatGPT Atlas. И вот первые пользователи уже нашли целый букет проблем. Начнём с базовых вещей. В браузере нет встроенного блокировщика рекламы, режима чтения и функции перевода текста на странице. Чтобы пересказать статью или перевести её, нужно просить бота в чате.
К сожалению, агент в Atlas уязвим к промпт-инъекциям – скрытым вредоносным командам для нейросетей, которые злоумышленники размещают в документах светлым цветом. 1 «белый хакер» продемонстрировал такую атаку: добавил скрытую функцию «копировать в буфер обмена» в кнопку на сайте. Когда ИИ-помощник нажимает её, вредоносная ссылка сохраняется. Пользователь нажимает Ctrl + V в чате – и агент послушно открывает поддельный PayPal или Gmail. Где просят ввести личные данные. Проще говоря, искусственный интеллект становится соучастником фишинга.
А теперь про цензуру и ограничения. Не все статьи ChatGPT сможет проанализировать – например, The New York Times блокирует использование Atlas. Также помощник делает пересказ не для каждого видео из-за перестраховки модерации.
Также, в режиме ИИ-агента Atlas может медлить, путаться и просить помощи человека, особенно если на сайте появляются всплывающие окна. Получается парадокс – это технологически продвинутый инструмент с серьёзными уязвимостями, без базовых функций обычного браузера и с избыточной цензурой. OpenAI выпустила продукт, который одновременно впечатляет концепцией и разочаровывает исполнением.
AIvengo >
Новости ИИ >
ChatGPT Atlas уязвим к промпт-инъекциям и может помогать фишингу
Почитать из последнего
Создатели ИИ стали его первыми жертвами
OpenAI планирует значительно замедлить темпы роста и сократить набор новых сотрудников. По данным Business Insider, гендиректор Сэм Альтман заявил, что ИИ изменил темпы роста штата компании. Ирония ситуации в том, что создатели технологии, которая должна заменять людей, сами стали её первыми жертвами.
Oracle потеряла 463 миллиарда из-за паники вокруг ИИ
Акции Oracle рухнули более чем на 50 процентов по сравнению с прошлогодним историческим максимумом. Падение привело к снижению рыночной стоимости примерно на 463 миллиарда долларов по сравнению с рекордом, достигнутым 10 сентября. Когда компания представила впечатляющие перспективы облачного бизнеса и растущий спрос на ИИ. Тогда стоимость превысила 933 миллиарда долларов, что сделало её десятой по стоимости публичной компанией в США.
Магазины в США вытаскивают память и видеокарты из витринных ПК из-за воров
Американские магазины начали изымать модули оперативной памяти и видеокарты из витринных образцов игровых компьютеров из-за участившихся краж. Например, розничная сеть Costco столкнулась с проблемой настолько массово, что теперь показывает ПК вообще без внутренностей. Просто корпуса с работающей RGB-подсветкой и вентиляторами.
Airtable потеряла две трети стоимости и запустила ИИ, который её убьёт
Представьте: ваша компания рухнула с 11 миллиардов до 4, инвесторы в шоке, опционы сотрудников превратились в тыкву. Что делать? Логично было бы затаиться и латать дыры. Но основатель Airtable Хоуи Лю, делает ровно наоборот. Запускает совершенно новый продукт, который может похоронить его основной бизнес.
Гуманоид с бровями будет приносить вам зубные щётки в отеле
Американский стартап Fauna представил человекоподобного робота Sprout, и это не очередная железяка для склада. Его задача — быть компаньоном в гостиницах, ресторанах и магазинах. Принести стакан воды, подать зубную щётку, сопроводить до номера. Цена — 50 тысяч долларов, но Disney и Boston Dynamics уже среди первых покупателей.
