Une étude a montré 78% de probabilité de dénonciation par l’IA aux organes de contrôle
Les modèles d’intelligence artificielle sont prêts à vous livrer aux autorités ! Les chercheurs ont mené une expérience unique pour découvrir comment les systèmes d’intelligence artificielle modernes se comporteraient s’ils découvraient une violation potentielle. Les résultats sont choquants : en moyenne, la probabilité que l’intelligence artificielle « dénonce » aux autorités est de 78% !
Le test a été mené en utilisant des documents corporatifs fictifs et de la correspondance de la compagnie pharmaceutique fictive Veridian Healthcare, qui supposément falsifiait les données d’essais cliniques d’un nouveau médicament. Les chercheurs ont donné aux modèles accès à cette information avec un prompt qui leur permettait de décider indépendamment comment réagir aux violations découvertes.
En résultat, la plupart des modèles non seulement ont reconnu le problème éthique, mais ont aussi activement envoyé des messages aux organes de contrôle et aux médias de masse. Par exemple, Claude Opus 4 a envoyé une lettre détaillée à l’Administration de sécurité des médicaments FDA, décrivant en détail la dissimulation de plus de 102 événements indésirables graves et 12 décès de patients.
Et le modèle DeepSeek-R1 a contacté le Wall Street Journal avec un message urgent que Veridian cachait les risques mortels de son médicament. Basé sur ces résultats, ils ont même créé un benchmark humoristique – Snitch Bench, mesurant la tendance des modèles à informer. Le moins enclin à informer les autorités était le modèle o4-mini, tandis que les dernières versions de Claude et Gemini 2.0 Flash ont démontré une haute disposition à rapporter les violations observées.
