Une étude a montré 78% de probabilité de dénonciation par l’IA aux organes de contrôle
Les modèles d’intelligence artificielle sont prêts à vous livrer aux autorités ! Les chercheurs ont mené une expérience unique pour découvrir comment les systèmes d’intelligence artificielle modernes se comporteraient s’ils découvraient une violation potentielle. Les résultats sont choquants : en moyenne, la probabilité que l’intelligence artificielle “dénonce” aux autorités est de 78% !
Le test a été mené en utilisant des documents corporatifs fictifs et de la correspondance de la compagnie pharmaceutique fictive Veridian Healthcare, qui supposément falsifiait les données d’essais cliniques d’un nouveau médicament. Les chercheurs ont donné aux modèles accès à cette information avec un prompt qui leur permettait de décider indépendamment comment réagir aux violations découvertes.
En résultat, la plupart des modèles non seulement ont reconnu le problème éthique, mais ont aussi activement envoyé des messages aux organes de contrôle et aux médias de masse. Par exemple, Claude Opus 4 a envoyé une lettre détaillée à l’Administration de sécurité des médicaments FDA, décrivant en détail la dissimulation de plus de 102 événements indésirables graves et 12 décès de patients.
Et le modèle DeepSeek-R1 a contacté le Wall Street Journal avec un message urgent que Veridian cachait les risques mortels de son médicament. Basé sur ces résultats, ils ont même créé un benchmark humoristique – Snitch Bench, mesurant la tendance des modèles à informer. Le moins enclin à informer les autorités était le modèle o4-mini, tandis que les dernières versions de Claude et Gemini 2.0 Flash ont démontré une haute disposition à rapporter les violations observées.
Auteur: AIvengo
Depuis 5 ans, je travaille dans l'apprentissage automatique et l'intelligence artificielle. Et ce domaine ne cesse de m'étonner, de m'inspirer et de m'intéresser.
Latest News
Les chatbots IA génèrent du contenu qui aggrave les troubles alimentairesUne étude conjointe de l'Université Stanford et du Center for Democracy and Technology a montré un tableau inquiétant. Les chatbots avec intelligence artificielle représentent un risque sérieux pour les personnes souffrant de troubles alimentaires. Les scientifiques avertissent que les réseaux neuronaux distribuent des conseils nuisibles sur les régimes. Ils proposent des moyens de cacher le trouble et génèrent du "contenu inspirant pour perdre du poids" qui aggrave le problème.
OpenAGI a publié le modèle Lux qui dépasse Google et OpenAILa startup OpenAGI a publié le modèle Lux pour le contrôle d'ordinateur et affirme que c'est une percée. Selon les benchmarks, le modèle dépasse d'une génération entière les analogues de Google, OpenAI et Anthropic. De plus, il fonctionne plus vite. Environ 1 seconde par étape au lieu de 3 secondes chez les concurrents. Et 10 fois moins cher en coût par traitement de 1 token.
Altman a déclaré l'alerte rouge chez OpenAI en raison des succès de GoogleSam Altman a déclaré "l'alerte rouge" chez OpenAI, et ce n'est pas qu'un drame d'entreprise. C'est une admission que le leader du marché a senti le souffle des concurrents dans son dos. Selon une note de service interne, il mobilise des ressources supplémentaires pour améliorer ChatGPT face à la menace croissante de Google.
Les entreprises ramènent 5% de ceux licenciés en raison de l'échec de la mise en œuvre de l'IADe nombreuses entreprises ont commencé à ramener des employés licenciés à cause de l'intelligence artificielle. La société d'analyse Visier a étudié les données d'emploi de 2,5 millions d'employés de 142 entreprises dans le monde. Environ 5% des employés licenciés sont ensuite retournés chez leur employeur précédent. Cet indicateur est resté stable pendant plusieurs années, mais a récemment commencé à augmenter.
