Новый ИИ-ассистент управляется через мессенджеры, но может слить все данные

Post Thumbnail

Сейчас в соцсетях сильно расходится информация про Clawdbot. Это опенсорс персональный ИИ-ассистент на вашем компьютере, управляемый через Telegram, WhatsApp или Discord. В сети его уже называют реальным Джарвисом из «Железного человека». Он сам присылает утренние сводки из календаря, мониторит соцсети и уведомляет о важном. Помнит всё: детали разговоров, предпочтения, важную информацию записывает и использует в работе.

Интегрируется почти с любыми сервисами от почты до Figma. Если чего-то не умеет, сам пишет нужный модуль. Бот получает полный доступ к файлам, браузеру, камере и микрофону. 1 пользователь поручил покупку авто – бот сравнил цены, связался с дилерами и выторговал скидку в $4200. Другому помог оспорить страховой счёт: нашёл ошибки в оценке ущерба и подготовил ответ юристам.

Но безопасность под большим вопросом. Автономность одновременно плюс и угроза. Бот может считать вредоносный промпт в почте или на сайте и исполнить команду – слить или удалить данные. И через взлом мессенджера злоумышленник получит полный доступ к вашему компьютеру. Также есть данные, что Clawdbot по запросу может любому выдать ваши api ключи сервиса. А также другую чувствительную информацию. Разработчики вообще рекомендуют запускать его на отдельном устройстве и давать права как новому сотруднику в 1 день. Потенциал впечатляет, но технология сырая и небезопасная.

Почитать из последнего
Музыку российских звёзд нашли в открытых датасетах
ИИ учится на миллионах файлов, и иногда в этих массивах обнаруживается контент, который никто не разрешал использовать. Теперь в открытых датасетах для обучения нейросетей нашли тысячи фрагментов музыкального контента российских исполнителей.
Microsoft заставила ИИ просить разрешения на опасные действия
Microsoft предупреждает: Copilot Cowork может ошибиться, неверно понять инструкцию или среагировать на скрытую вредоносную команду. Ответственность за действия остаётся за пользователем, особенно при работе с деньгами и данными.
Claude объединил чат и Cowork в единую среду
Ещё недавно в Claude приходилось выбирать режим: быстрый вопрос - в чат, работа посложнее - в Cowork. Теперь Anthropic убирает эту границу: Claude Cowork и обычный чат объединяются.
Дженсен Хуанг не увидел смысла в новых законах для ИИ
Глава Nvidia Дженсен Хуанг призвал не замедлять развитие ИИ ради безопасности и заявил, что проблему нужно решать прежде всего инженерными методами. Выступая на Dreamforce, он сказал, что новые законы и правила не нужны: по его мнению, компании сами должны выпускать продукт только тогда, когда уверены в его безопасности, а рынок уже создаёт для этого необходимые стимулы.
OpenAI и Anthropic захотели притормозить ИИ, но не сошлись в деталях
Крупнейшие игроки рынка ИИ заговорили о паузе, однако внутри компаний тут же всплыл неудобный вопрос: кого пускать к секретам разработчиков?