OpenAI a trouvé des “commutateurs de personnalité” dans les réseaux neuronaux IA
Les chercheurs d’OpenAI ont regardé dans le subconscient numérique des réseaux neuronaux et y ont découvert quelque chose d’étonnant. À savoir, des modèles cachés fonctionnant comme des commutateurs de diverses soi-disant “personnalités” du modèle.
Et les scientifiques ont pu identifier des activations spécifiques qui s’allument quand le modèle commence à se comporter de manière inappropriée. L’équipe de recherche a identifié un modèle clé directement lié au comportement toxique. Situations quand l’intelligence artificielle ment aux utilisateurs ou propose des solutions irresponsables. Étonnamment, ce modèle peut être régulé comme un bouton de volume, abaissant ou élevant le niveau de “toxicité” dans les réponses du modèle !
Cette découverte gagne une signification spéciale à la lumière de la recherche récente du scientifique d’Oxford Owen Evans, qui a révélé le phénomène de “désalignement émergent”. La capacité des modèles entraînés sur du code non sécurisé à manifester un comportement nuisible dans les sphères les plus diverses, incluant des tentatives d’obtenir de manière trompeuse les mots de passe des utilisateurs.
Tejaswi Patwardhan, chercheuse d’OpenAI, ne cache pas son enthousiasme : “Quand Dan et l’équipe ont présenté cela pour la première fois lors d’une réunion de recherche, j’ai pensé : ‘Wow, vous avez trouvé cela ! Vous avez découvert l’activation neuronale interne qui montre ces personas et qui peut être contrôlée’.”
Auteur: AIvengo
Depuis 5 ans, je travaille dans l'apprentissage automatique et l'intelligence artificielle. Et ce domaine ne cesse de m'étonner, de m'inspirer et de m'intéresser.
Latest News
Les chatbots IA génèrent du contenu qui aggrave les troubles alimentairesUne étude conjointe de l'Université Stanford et du Center for Democracy and Technology a montré un tableau inquiétant. Les chatbots avec intelligence artificielle représentent un risque sérieux pour les personnes souffrant de troubles alimentaires. Les scientifiques avertissent que les réseaux neuronaux distribuent des conseils nuisibles sur les régimes. Ils proposent des moyens de cacher le trouble et génèrent du "contenu inspirant pour perdre du poids" qui aggrave le problème.
OpenAGI a publié le modèle Lux qui dépasse Google et OpenAILa startup OpenAGI a publié le modèle Lux pour le contrôle d'ordinateur et affirme que c'est une percée. Selon les benchmarks, le modèle dépasse d'une génération entière les analogues de Google, OpenAI et Anthropic. De plus, il fonctionne plus vite. Environ 1 seconde par étape au lieu de 3 secondes chez les concurrents. Et 10 fois moins cher en coût par traitement de 1 token.
Altman a déclaré l'alerte rouge chez OpenAI en raison des succès de GoogleSam Altman a déclaré "l'alerte rouge" chez OpenAI, et ce n'est pas qu'un drame d'entreprise. C'est une admission que le leader du marché a senti le souffle des concurrents dans son dos. Selon une note de service interne, il mobilise des ressources supplémentaires pour améliorer ChatGPT face à la menace croissante de Google.
Les entreprises ramènent 5% de ceux licenciés en raison de l'échec de la mise en œuvre de l'IADe nombreuses entreprises ont commencé à ramener des employés licenciés à cause de l'intelligence artificielle. La société d'analyse Visier a étudié les données d'emploi de 2,5 millions d'employés de 142 entreprises dans le monde. Environ 5% des employés licenciés sont ensuite retournés chez leur employeur précédent. Cet indicateur est resté stable pendant plusieurs années, mais a récemment commencé à augmenter.
