Parrains de l’IA Bengio et Hinton appellent à arrêter développement AGI
850 personnes, dont le cofondateur d’Apple Steve Wozniak et le fondateur de Virgin Group Richard Branson, ont signé une déclaration appelant à interdire le développement de la superintelligence ou AGI. C’est une forme hypothétique d’intelligence artificielle qui surpassera les humains dans pratiquement toutes les tâches cognitives.
La liste a été menée par des pionniers de la technologie – les scientifiques Yoshua Bengio et Jeff Hinton. Qui sont considérés comme les « parrains » de l’IA moderne. Parmi les signataires se trouvaient des universitaires, des personnalités médiatiques, des dirigeants religieux et d’anciens politiciens américains des deux partis.
La superintelligence est devenue un mot à la mode dans la course entre des géants comme xAI et OpenAI. Mais les auteurs de la déclaration avertissent : la perspective de la superintelligence soulève de sérieuses préoccupations. De l’inutilité économique des gens et de la perte de libertés aux risques pour la sécurité nationale et même à l’extinction possible de l’humanité.
Ils exigent une interdiction du développement jusqu’à ce qu’il y ait un fort soutien public et un consensus scientifique. Que la technologie puisse être créée et contrôlée en toute sécurité. Une image intéressante émerge : certaines entreprises se précipitent pour construire la superintelligence, tandis que d’autres crient « stop ».
Auteur: AIvengo
Depuis 5 ans, je travaille dans l'apprentissage automatique et l'intelligence artificielle. Et ce domaine ne cesse de m'étonner, de m'inspirer et de m'intéresser.
Latest News
UBTech enverra des robots Walker S2 servir à la frontière chinoise pour $37 millionsL'entreprise chinoise UBTech a remporté un contrat de $37 millions. Et enverra des robots humanoïdes Walker S2 servir à la frontière de la Chine avec le Vietnam. South China Morning Post rapporte que les robots interagiront avec les touristes et le personnel, effectueront des opérations logistiques, inspecteront les marchandises et patrouilleront le territoire. Et caractéristiquement — ils peuvent changer leur batterie de manière autonome.
Les chatbots IA génèrent du contenu qui aggrave les troubles alimentairesUne étude conjointe de l'Université Stanford et du Center for Democracy and Technology a montré un tableau inquiétant. Les chatbots avec intelligence artificielle représentent un risque sérieux pour les personnes souffrant de troubles alimentaires. Les scientifiques avertissent que les réseaux neuronaux distribuent des conseils nuisibles sur les régimes. Ils proposent des moyens de cacher le trouble et génèrent du "contenu inspirant pour perdre du poids" qui aggrave le problème.
OpenAGI a publié le modèle Lux qui dépasse Google et OpenAILa startup OpenAGI a publié le modèle Lux pour le contrôle d'ordinateur et affirme que c'est une percée. Selon les benchmarks, le modèle dépasse d'une génération entière les analogues de Google, OpenAI et Anthropic. De plus, il fonctionne plus vite. Environ 1 seconde par étape au lieu de 3 secondes chez les concurrents. Et 10 fois moins cher en coût par traitement de 1 token.
