ChatGPT Atlas уязвим к промпт-инъекциям и может помогать фишингу
Я рассказывал про то, что компания OpenAI выпустила браузер ChatGPT Atlas. И вот первые пользователи уже нашли целый букет проблем. Начнём с базовых вещей. В браузере нет встроенного блокировщика рекламы, режима чтения и функции перевода текста на странице. Чтобы пересказать статью или перевести её, нужно просить бота в чате.
К сожалению, агент в Atlas уязвим к промпт-инъекциям – скрытым вредоносным командам для нейросетей, которые злоумышленники размещают в документах светлым цветом. 1 “белый хакер” продемонстрировал такую атаку: добавил скрытую функцию “копировать в буфер обмена” в кнопку на сайте. Когда ИИ-помощник нажимает её, вредоносная ссылка сохраняется. Пользователь нажимает Ctrl + V в чате – и агент послушно открывает поддельный PayPal или Gmail. Где просят ввести личные данные. Проще говоря, искусственный интеллект становится соучастником фишинга.
А теперь про цензуру и ограничения. Не все статьи ChatGPT сможет проанализировать – например, The New York Times блокирует использование Atlas. Также помощник делает пересказ не для каждого видео из-за перестраховки модерации.
Также, в режиме ИИ-агента Atlas может медлить, путаться и просить помощи человека, особенно если на сайте появляются всплывающие окна. Получается парадокс – это технологически продвинутый инструмент с серьёзными уязвимостями, без базовых функций обычного браузера и с избыточной цензурой. OpenAI выпустила продукт, который одновременно впечатляет концепцией и разочаровывает исполнением.
Автор: AIvengo
5 лет я работаю с машинным обучением и искусственным интеллектом. И эта сфера не перестает меня удивлять, восхищать и интересовать.
Latest News
Amazon превращает курьеров в киборгов с умными очками на ИИAmazon решил превратить своих курьеров в киборгов. Нет, серьёзно – компания анонсировала умные очки с искусственным интеллектом для доставщиков. Идея, по словам гиганта e-commerce, в том, чтобы освободить водителям руки. И избавить их от необходимости постоянно переключать взгляд между телефоном, посылкой и окружающим пространством.
OpenAI добавит камео персонажей в SoraКомпания OpenAI опубликовала дорожную карту развития Sora, и знаете что? Похоже, компания наконец-то осознала, что генерация видео – это не просто технологическая демонстрация. А инструмент, которым людям нужно реально пользоваться. Билл Пиблс, глава проекта, анонсировал целый набор обновлений, и некоторые из них действительно интересны.
Starcloud запускает спутник с ИИ в ноябре для дата-центра в космосеЗнаете, куда теперь переносят дата-центры для искусственного интеллекта? В космос. Стартап Starcloud, участник программы NVIDIA Inception, планирует запустить в ноябре спутник с искусственным интеллектом на орбиту Земли. И это только начало их амбициозного плана решить проблемы энергопотребления и охлаждения дата-центров на Земле.
ChatGPT Atlas уязвим к промпт-инъекциям и может помогать фишингуЯ рассказывал про то, что компания OpenAI выпустила браузер ChatGPT Atlas. И вот первые пользователи уже нашли целый букет проблем. Начнём с базовых вещей. В браузере нет встроенного блокировщика рекламы, режима чтения и функции перевода текста на странице. Чтобы пересказать статью или перевести её, нужно просить бота в чате.
Китай сломал литографическую установку ASML при попытке её скопироватьВот вам история про то, как импортозамещение столкнулось с суровой реальностью. Китай попытался разобрать литографическую установку ASML категории DUV, чтобы изучить её устройство. Результат? Повредили систему и обратились к самой ASML с просьбой отремонтировать. Абсурд ситуации зашкаливает.
