ChatGPT Atlas es vulnerable a inyecciones de prompt y puede ayudar con phishing
Conté sobre cómo OpenAI lanzó navegador ChatGPT Atlas. Y aquí primeros usuarios ya encontraron ramo completo de problemas. Comencemos con cosas básicas. Navegador no tiene bloqueador de anuncios integrado, modo de lectura y función de traducción de texto en página. Para volver a contar artículo o traducirlo, necesitan pedir a bot en chat.
Desafortunadamente, agente en Atlas es vulnerable a inyecciones de prompt – comandos maliciosos ocultos para redes neuronales que atacantes colocan en documentos en color claro. Un “hacker blanco” demostró tal ataque: añadió función oculta “copiar al portapapeles” a botón en sitio. Cuando asistente de IA hace clic, enlace malicioso se guarda. Usuario presiona Ctrl + V en chat – y agente obedientemente abre PayPal o Gmail falso. Donde piden ingresar datos personales. En términos simples, IA se convierte en cómplice de phishing.
Y ahora sobre censura y restricciones. No todos artículos puede ChatGPT analizar – por ejemplo, The New York Times bloquea uso de Atlas. También asistente no hace resumen para cada video debido a moderación excesivamente cautelosa.
También, en modo agente de IA Atlas puede retrasarse, confundirse y pedir ayuda humana, especialmente si pop-ups aparecen en sitio. Paradoja emerge – esta es herramienta tecnológicamente avanzada con vulnerabilidades serias, sin funciones básicas de navegador normal y con censura excesiva. OpenAI lanzó producto que simultáneamente impresiona con concepto y decepciona con ejecución.
Latest News
Amazon convierte mensajeros en cyborgs con gafas inteligentes de IAAmazon decidió convertir sus mensajeros en cyborgs. No, en serio - compañía anunció gafas inteligentes con IA para repartidores. Idea, según gigante de e-commerce, es liberar manos de conductores. Y ahorrarles tener que cambiar constantemente mirada entre teléfono, paquete y entorno.
OpenAI añadirá cameos de personajes a SoraOpenAI publicó hoja de ruta de desarrollo para Sora, ¿y saben qué? Parece que compañía finalmente se dio cuenta de que generación de video no es solo demostración tecnológica. Sino herramienta que personas necesitan realmente usar. Bill Peebles, jefe de proyecto, anunció conjunto completo de actualizaciones, y algunas de ellas son realmente interesantes.
Starcloud lanza satélite con IA en noviembre para centro de datos en espacio¿Saben a dónde ahora se mueven centros de datos para IA? Al espacio. Startup Starcloud, participante en programa NVIDIA Inception, planea lanzar en noviembre satélite con IA a órbita terrestre. Y este es solo comienzo de su plan ambicioso para resolver problemas de consumo de energía y enfriamiento de centros de datos en Tierra.
ChatGPT Atlas es vulnerable a inyecciones de prompt y puede ayudar con phishingConté sobre cómo OpenAI lanzó navegador ChatGPT Atlas. Y aquí primeros usuarios ya encontraron ramo completo de problemas. Comencemos con cosas básicas. Navegador no tiene bloqueador de anuncios integrado, modo de lectura y función de traducción de texto en página. Para volver a contar artículo o traducirlo, necesitan pedir a bot en chat.
China rompió máquina de litografía ASML al intentar copiarlaAquí está historia sobre cómo sustitución de importaciones enfrentó dura realidad. China intentó desmontar máquina de litografía ASML de categoría DUV para estudiar su diseño. ¿Resultado? Dañaron sistema y se dirigieron a ASML misma con solicitud de reparación. Absurdo de situación está por las nubes.
