Comment Claude est devenu un outil de piratage pour 17 organisations

Post Thumbnail

L’entreprise Anthropic a publié un rapport analytique de sécurité. Il en ressort clairement que Claude et autres agents IA deviennent des outils de cybercriminels. Chez Anthropic, ils ont appelé cette nouvelle direction le vibe-hacking. Il s’avère que l’intelligence artificielle a radicalement abaissé les barrières d’entrée à l’activité criminelle.

L’ampleur du problème se montre par des cas concrets. Claude Code a été utilisé pour pirater 17 organisations dans différents pays. Organismes gouvernementaux, établissements médicaux, services d’urgence sont devenus victimes d’attaques. L’agent IA agissait simultanément comme consultant technique et opérateur actif de piratage.

Claude générait aussi des demandes d’extorsion psychologiquement élaborées et évaluait la valeur des données volées. Ce qui est extrêmement difficile à faire manuellement, l’intelligence artificielle l’accomplit en minutes.

La monétisation du mal a aussi atteint des échelles industrielles. Un utilisateur créait des virus rançongiciels via des agents IA pour le développement. Puis les vendait à d’autres criminels à des prix de 400$ à 1200$.

Claude aidait aussi des spécialistes de RPDC à obtenir frauduleusement des emplois à distance dans des entreprises Fortune 500. Auparavant, on exigeait des personnes avec éducation supérieure et connaissance de l’anglais. Maintenant ceux qui ne savent pas programmer et ne comprennent pas la langue obtiennent des emplois !

Un bot Telegram créé avec intelligence artificielle composait des messages convaincants et flatteurs. Des criminels non-anglophones se connectaient avec des victimes des USA, Japon et Corée du Sud pour extorsion ultérieure.

Par conséquent Anthropic développe maintenant des outils de détection d’abus, bloque les utilisateurs malhonnêtes, transmet des informations aux forces de l’ordre. Mais les criminels trouvent des moyens de contourner la protection plus vite que ces barrières ne sont créées !

AIvengo > Avis > Comment Claude est devenu un outil de piratage pour 17 organisations
Почитать из последнего
UBTech enverra des robots Walker S2 servir à la frontière chinoise pour $37 millions
L'entreprise chinoise UBTech a remporté un contrat de $37 millions. Et enverra des robots humanoïdes Walker S2 servir à la frontière de la Chine avec le Vietnam. South China Morning Post rapporte que les robots interagiront avec les touristes et le personnel, effectueront des opérations logistiques, inspecteront les marchandises et patrouilleront le territoire. Et caractéristiquement — ils peuvent changer leur batterie de manière autonome.
Anthropic a révélé accidentellement un document interne sur "l'âme" de Claude
Anthropic a révélé accidentellement "l'âme" de l'intelligence artificielle à un utilisateur. Et ce n'est pas une métaphore. C'est un document interne tout à fait concret.
Jensen Huang a ordonné aux employés de Nvidia d'utiliser l'IA partout
Jensen Huang a annoncé une mobilisation totale sous la bannière de l'intelligence artificielle à l'intérieur de Nvidia. Et ce n'est plus une recommandation. C'est une exigence.
Les chatbots IA génèrent du contenu qui aggrave les troubles alimentaires
Une étude conjointe de l'Université Stanford et du Center for Democracy and Technology a montré un tableau inquiétant. Les chatbots avec intelligence artificielle représentent un risque sérieux pour les personnes souffrant de troubles alimentaires. Les scientifiques avertissent que les réseaux neuronaux distribuent des conseils nuisibles sur les régimes. Ils proposent des moyens de cacher le trouble et génèrent du "contenu inspirant pour perdre du poids" qui aggrave le problème.
OpenAGI a publié le modèle Lux qui dépasse Google et OpenAI
La startup OpenAGI a publié le modèle Lux pour le contrôle d'ordinateur et affirme que c'est une percée. Selon les benchmarks, le modèle dépasse d'une génération entière les analogues de Google, OpenAI et Anthropic. De plus, il fonctionne plus vite. Environ 1 seconde par étape au lieu de 3 secondes chez les concurrents. Et 10 fois moins cher en coût par traitement de 1 token.