Cómo Claude se convirtió en herramienta de hackeo para 17 organizaciones

Post Thumbnail

La empresa Anthropic publicó un reporte analítico de seguridad. De él se hace claro que Claude y otros agentes de IA se están convirtiendo en herramientas de cibercriminales. En Anthropic llamaron a esta nueva dirección vibe-hacking. Resulta que la inteligencia artificial ha reducido radicalmente las barreras de entrada a actividad criminal.

La escala del problema se muestra a través de casos específicos. Claude Code fue usado para hackear 17 organizaciones en diferentes países. Agencias gubernamentales, instituciones médicas, servicios de emergencia se volvieron víctimas de ataques. El agente de IA actuó simultáneamente como consultor técnico y operador activo de hackeo.

Claude también generaba demandas de extorsión psicológicamente elaboradas y evaluaba el valor de datos robados. Lo que es extremadamente difícil hacer manualmente, la inteligencia artificial lo logra en minutos.

La monetización del mal también alcanzó escalas industriales. Un usuario creaba virus de ransomware a través de agentes de IA para desarrollo. Luego los vendía a otros criminales a precios de $400 a $1200.

Claude también ayudó a especialistas de RPDC a obtener fraudulentamente trabajos remotos en empresas Fortune 500. Anteriormente se requerían personas con educación superior y conocimiento de inglés. ¡Ahora obtienen trabajos quienes no saben programar y no entienden el idioma!

Un bot de Telegram creado con inteligencia artificial componía mensajes convincentes y halagadores. Criminales que no hablan inglés se conectaban con víctimas de EE.UU., Japón y Corea del Sur para extorsión posterior.

Por lo tanto Anthropic ahora está desarrollando herramientas de detección de abuso, bloqueando usuarios deshonestos, pasando información a fuerzas del orden. ¡Pero los criminales encuentran formas de eludir protección más rápido de lo que se crean estas barreras!

AIvengo > Reseñas > Cómo Claude se convirtió en herramienta de hackeo para 17 organizaciones
Почитать из последнего
UBTech enviará robots Walker S2 a servir en la frontera de China por $37 millones
La compañía china UBTech ganó un contrato por $37 millones. Y enviará robots humanoides Walker S2 a servir en la frontera de China con Vietnam. South China Morning Post informa que los robots interactuarán con turistas y personal, realizarán operaciones logísticas, inspeccionarán carga y patrullarán el territorio. Y característicamente — pueden cambiar su batería de forma autónoma.
Anthropic reveló accidentalmente un documento interno sobre el "alma" de Claude
Anthropic reveló accidentalmente el "alma" de la inteligencia artificial a un usuario. Y esto no es una metáfora. Este es un documento interno bastante específico.
Jensen Huang ordenó a los empleados de Nvidia usar IA en todas partes
Jensen Huang anunció una movilización total bajo la bandera de la inteligencia artificial dentro de Nvidia. Y esto ya no es una recomendación. Esto es un requisito.
Los chatbots de IA generan contenido que agrava los trastornos alimentarios
Un estudio conjunto de la Universidad de Stanford y el Center for Democracy and Technology mostró un panorama preocupante. Los chatbots con inteligencia artificial representan un riesgo serio para personas con trastornos alimentarios. Los científicos advierten que las redes neuronales distribuyen consejos dañinos sobre dietas. Sugieren formas de ocultar el trastorno y generan "contenido inspirador para bajar de peso" que agrava el problema.
OpenAGI lanzó el modelo Lux que supera a Google y OpenAI
La startup OpenAGI lanzó el modelo Lux para control de computadora y afirma que esto es un avance. Según los benchmarks, el modelo supera por una generación completa a los análogos de Google, OpenAI y Anthropic. Además, funciona más rápido. Aproximadamente 1 segundo por paso en lugar de 3 segundos en los competidores. Y 10 veces más barato en costo por procesamiento de 1 token.