El navegador agéntico cayó en ataque de phishing

Post Thumbnail

Nunca había pasado antes y aquí vamos otra vez. El navegador Comet de Perplexity con IA agéntica resultó ser catastróficamente vulnerable a ciberataques. Pero la investigación de Guardio reveló vulnerabilidades serias. En una prueba crearon un sitio falso de Walmart a través del servicio Lovable. Pidieron a Comet comprar un Apple Watch. ¡El navegador no verificó la legitimidad del sitio, automáticamente llenó datos de tarjeta de crédito y dirección, completó la compra sin una sola confirmación del usuario!

La segunda prueba fue aún peor. Un email falso de Wells Fargo desde una dirección ProtonMail contenía un enlace a una página de phishing activa. ¡Comet percibió esto como una instrucción genuina del banco, siguió el enlace y sugirió al usuario ingresar credenciales en el sitio de phishing!

El clímax — ataque a través de prompts maliciosos. Los investigadores crearon una página CAPTCHA falsa con instrucciones ocultas en el código fuente. ¡Comet las interpretó como comandos válidos, hizo clic en el botón y lanzó la descarga de un archivo malicioso!

Pero lo más aterrador está por venir. Cito a Guardio — en la era de confrontación IA vs IA, los estafadores no necesitan engañar a millones de personas, es suficiente hackear un modelo. Después del éxito, el exploit escala infinitamente. Los hackers tienen acceso a los mismos modelos — pueden entrenar versiones maliciosas contra la IA víctima hasta que el fraude funcione perfectamente!

¿Estamos al borde de una catástrofe tecnológica? Los navegadores agénticos prometen una revolución de conveniencia pero abren puertas para ataques de nueva generación. La pregunta no es si ocurrirá un hackeo masivo — la pregunta es cuándo.

Почитать из последнего
UBTech enviará robots Walker S2 a servir en la frontera de China por $37 millones
La compañía china UBTech ganó un contrato por $37 millones. Y enviará robots humanoides Walker S2 a servir en la frontera de China con Vietnam. South China Morning Post informa que los robots interactuarán con turistas y personal, realizarán operaciones logísticas, inspeccionarán carga y patrullarán el territorio. Y característicamente — pueden cambiar su batería de forma autónoma.
Anthropic reveló accidentalmente un documento interno sobre el "alma" de Claude
Anthropic reveló accidentalmente el "alma" de la inteligencia artificial a un usuario. Y esto no es una metáfora. Este es un documento interno bastante específico.
Jensen Huang ordenó a los empleados de Nvidia usar IA en todas partes
Jensen Huang anunció una movilización total bajo la bandera de la inteligencia artificial dentro de Nvidia. Y esto ya no es una recomendación. Esto es un requisito.
Los chatbots de IA generan contenido que agrava los trastornos alimentarios
Un estudio conjunto de la Universidad de Stanford y el Center for Democracy and Technology mostró un panorama preocupante. Los chatbots con inteligencia artificial representan un riesgo serio para personas con trastornos alimentarios. Los científicos advierten que las redes neuronales distribuyen consejos dañinos sobre dietas. Sugieren formas de ocultar el trastorno y generan "contenido inspirador para bajar de peso" que agrava el problema.
OpenAGI lanzó el modelo Lux que supera a Google y OpenAI
La startup OpenAGI lanzó el modelo Lux para control de computadora y afirma que esto es un avance. Según los benchmarks, el modelo supera por una generación completa a los análogos de Google, OpenAI y Anthropic. Además, funciona más rápido. Aproximadamente 1 segundo por paso en lugar de 3 segundos en los competidores. Y 10 veces más barato en costo por procesamiento de 1 token.