ChatGPT Atlas est vulnérable aux injections de prompt et peut aider au phishing
J’ai parlé de comment OpenAI a publié le navigateur ChatGPT Atlas. Et voici que les premiers utilisateurs ont déjà trouvé tout un bouquet de problèmes. Commençons par les choses de base. Le navigateur n’a pas de bloqueur de publicités intégré, pas de mode de lecture et pas de fonction de traduction de texte sur la page. Pour résumer un article ou le traduire, il faut demander au bot dans le chat.
Malheureusement, l’agent dans Atlas est vulnérable aux injections de prompt – des commandes malveillantes cachées pour les réseaux neuronaux que les attaquants placent dans les documents en couleur claire. Un “hacker blanc” a démontré une telle attaque : il a ajouté une fonction cachée “copier dans le presse-papiers” à un bouton sur le site. Quand l’assistant IA clique dessus, un lien malveillant est enregistré. L’utilisateur appuie sur Ctrl + V dans le chat – et l’agent ouvre docilement un faux PayPal ou Gmail. Où on demande d’entrer des données personnelles. En termes simples, l’IA devient complice de phishing.
Et maintenant sur la censure et les restrictions. Pas tous les articles ChatGPT peut analyser – par exemple, The New York Times bloque l’utilisation d’Atlas. Aussi l’assistant ne fait pas de résumé pour chaque vidéo en raison d’une modération trop prudente.
Aussi, en mode agent IA Atlas peut ralentir, se confondre et demander l’aide humaine, surtout si des pop-ups apparaissent sur le site. Un paradoxe émerge – c’est un outil technologiquement avancé avec de sérieuses vulnérabilités, sans fonctions de base d’un navigateur normal et avec une censure excessive. OpenAI a publié un produit qui impressionne simultanément par le concept et déçoit par l’exécution.
Auteur: AIvengo
Depuis 5 ans, je travaille dans l'apprentissage automatique et l'intelligence artificielle. Et ce domaine ne cesse de m'étonner, de m'inspirer et de m'intéresser.
Latest News
Amazon transforme coursiers en cyborgs avec lunettes intelligentes IAAmazon a décidé de transformer ses coursiers en cyborgs. Non, sérieusement - l'entreprise a annoncé des lunettes intelligentes avec IA pour les livreurs. L'idée, selon le géant du e-commerce, est de libérer les mains des conducteurs. Et de les épargner de devoir constamment changer le regard entre téléphone, colis et environnement.
OpenAI ajoutera cameos de personnages à SoraOpenAI a publié la feuille de route de développement pour Sora, et vous savez quoi ? Il semble que l'entreprise a enfin réalisé que la génération vidéo n'est pas seulement une démonstration technologique. Mais un outil que les gens doivent vraiment utiliser. Bill Peebles, chef de projet, a annoncé tout un ensemble de mises à jour, et certaines d'entre elles sont vraiment intéressantes.
Starcloud lance satellite IA en novembre pour centre de données dans l'espaceVous savez où les centres de données pour l'IA sont maintenant déplacés ? Dans l'espace. La startup Starcloud, participante au programme NVIDIA Inception, prévoit de lancer en novembre un satellite avec IA en orbite terrestre. Et ce n'est que le début de leur plan ambitieux pour résoudre les problèmes de consommation d'énergie et de refroidissement des centres de données sur Terre.
ChatGPT Atlas est vulnérable aux injections de prompt et peut aider au phishingJ'ai parlé de comment OpenAI a publié le navigateur ChatGPT Atlas. Et voici que les premiers utilisateurs ont déjà trouvé tout un bouquet de problèmes. Commençons par les choses de base. Le navigateur n'a pas de bloqueur de publicités intégré, pas de mode de lecture et pas de fonction de traduction de texte sur la page. Pour résumer un article ou le traduire, il faut demander au bot dans le chat.
Chine a cassé machine de lithographie ASML en tentant de la copierVoici une histoire sur comment la substitution des importations a fait face à la dure réalité. La Chine a tenté de démonter une machine de lithographie ASML de catégorie DUV pour étudier sa conception. Résultat ? Ils ont endommagé le système et se sont tournés vers ASML elle-même avec une demande de réparation. L'absurdité de la situation est hors normes.
