ChatGPT Atlas es vulnerable a inyecciones de prompt y puede ayudar con phishing

Conté sobre cómo OpenAI lanzó navegador ChatGPT Atlas. Y aquí primeros usuarios ya encontraron ramo completo de problemas. Comencemos con cosas básicas. Navegador no tiene bloqueador de anuncios integrado, modo de lectura y función de traducción de texto en página. Para volver a contar artículo o traducirlo, necesitan pedir a bot en chat.

Desafortunadamente, agente en Atlas es vulnerable a inyecciones de prompt – comandos maliciosos ocultos para redes neuronales que atacantes colocan en documentos en color claro. Un «hacker blanco» demostró tal ataque: añadió función oculta «copiar al portapapeles» a botón en sitio. Cuando asistente de IA hace clic, enlace malicioso se guarda. Usuario presiona Ctrl + V en chat – y agente obedientemente abre PayPal o Gmail falso. Donde piden ingresar datos personales. En términos simples, IA se convierte en cómplice de phishing.

Y ahora sobre censura y restricciones. No todos artículos puede ChatGPT analizar – por ejemplo, The New York Times bloquea uso de Atlas. También asistente no hace resumen para cada video debido a moderación excesivamente cautelosa.

También, en modo agente de IA Atlas puede retrasarse, confundirse y pedir ayuda humana, especialmente si pop-ups aparecen en sitio. Paradoja emerge – esta es herramienta tecnológicamente avanzada con vulnerabilidades serias, sin funciones básicas de navegador normal y con censura excesiva. OpenAI lanzó producto que simultáneamente impresiona con concepto y decepciona con ejecución.

AIvengo > Reseñas > ChatGPT Atlas es vulnerable a inyecciones de prompt y puede ayudar con phishing

UBTech enviará robots Walker S2 a servir en la frontera de China por $37 millones

La compañía china UBTech ganó un contrato por $37 millones. Y enviará robots humanoides Walker S2 a servir en la frontera de China con Vietnam. South China Morning Post informa que los robots interactuarán con turistas y personal, realizarán operaciones logísticas, inspeccionarán carga y patrullarán el territorio. Y característicamente — pueden cambiar su batería de forma autónoma.

Anthropic reveló accidentalmente un documento interno sobre el "alma" de Claude

Anthropic reveló accidentalmente el "alma" de la inteligencia artificial a un usuario. Y esto no es una metáfora. Este es un documento interno bastante específico.

Jensen Huang ordenó a los empleados de Nvidia usar IA en todas partes

Jensen Huang anunció una movilización total bajo la bandera de la inteligencia artificial dentro de Nvidia. Y esto ya no es una recomendación. Esto es un requisito.

Los chatbots de IA generan contenido que agrava los trastornos alimentarios

Un estudio conjunto de la Universidad de Stanford y el Center for Democracy and Technology mostró un panorama preocupante. Los chatbots con inteligencia artificial representan un riesgo serio para personas con trastornos alimentarios. Los científicos advierten que las redes neuronales distribuyen consejos dañinos sobre dietas. Sugieren formas de ocultar el trastorno y generan "contenido inspirador para bajar de peso" que agrava el problema.

OpenAGI lanzó el modelo Lux que supera a Google y OpenAI

La startup OpenAGI lanzó el modelo Lux para control de computadora y afirma que esto es un avance. Según los benchmarks, el modelo supera por una generación completa a los análogos de Google, OpenAI y Anthropic. Además, funciona más rápido. Aproximadamente 1 segundo por paso en lugar de 3 segundos en los competidores. Y 10 veces más barato en costo por procesamiento de 1 token.