La sécurité sacrifiée au profit : la Silicon Valley réduit la recherche en IA

Post Thumbnail

Les entreprises de la Silicon Valley sacrifient de plus en plus la recherche en intelligence artificielle au profit. Et le développement de produits supplante le travail sur la sécurité des systèmes. Selon White, dont la société CalypsoAI effectue des audits de modèles populaires de Meta, Google et OpenAI, les systèmes modernes sont moins susceptibles de rejeter les demandes malveillantes. Et ils peuvent révéler des moyens de créer des dispositifs explosifs ou des informations confidentielles pour les acteurs malveillants.

« Les modèles s’améliorent, mais ils sont également plus susceptibles d’être bons dans les mauvaises choses », déclare White. « Il devient plus facile de les tromper pour faire quelque chose de nuisible. »

Les changements sont particulièrement notables dans des entreprises comme Meta et Alphabet, qui ont abaissé la priorité des laboratoires de recherche. Dans la société mère de Facebook, la division de recherche fondamentale en intelligence artificielle est passée au second plan. Laissant la place à Meta GenAI.

Chez Alphabet, le groupe de recherche Google Brain fait maintenant partie de DeepMind. La division responsable du développement de produits d’intelligence artificielle. Cette réorganisation reflète un changement de focus de la recherche fondamentale vers le développement appliqué.

Les journalistes de CNBC se sont entretenus avec plus de 12 professionnels dans le domaine de l’intelligence artificielle, qui parlent unanimement d’un passage de la recherche aux produits générateurs de revenus. Les employés font face à des délais de développement de plus en plus serrés. Ils ne peuvent pas se permettre de prendre du retard dans la course pour mettre de nouveaux modèles sur le marché. Et les tests approfondis deviennent un luxe que les entreprises considèrent possible de réduire.

Je pense que dans les deux prochaines années, nous verrons une augmentation des incidents de sécurité. Ce qui conduira à une intervention réglementaire des gouvernements. Ou tout cela se terminera par une censure directe.

AIvengo > Avis > La sécurité sacrifiée au profit : la Silicon Valley réduit la recherche en IA
Почитать из последнего
UBTech enverra des robots Walker S2 servir à la frontière chinoise pour $37 millions
L'entreprise chinoise UBTech a remporté un contrat de $37 millions. Et enverra des robots humanoïdes Walker S2 servir à la frontière de la Chine avec le Vietnam. South China Morning Post rapporte que les robots interagiront avec les touristes et le personnel, effectueront des opérations logistiques, inspecteront les marchandises et patrouilleront le territoire. Et caractéristiquement — ils peuvent changer leur batterie de manière autonome.
Anthropic a révélé accidentellement un document interne sur "l'âme" de Claude
Anthropic a révélé accidentellement "l'âme" de l'intelligence artificielle à un utilisateur. Et ce n'est pas une métaphore. C'est un document interne tout à fait concret.
Jensen Huang a ordonné aux employés de Nvidia d'utiliser l'IA partout
Jensen Huang a annoncé une mobilisation totale sous la bannière de l'intelligence artificielle à l'intérieur de Nvidia. Et ce n'est plus une recommandation. C'est une exigence.
Les chatbots IA génèrent du contenu qui aggrave les troubles alimentaires
Une étude conjointe de l'Université Stanford et du Center for Democracy and Technology a montré un tableau inquiétant. Les chatbots avec intelligence artificielle représentent un risque sérieux pour les personnes souffrant de troubles alimentaires. Les scientifiques avertissent que les réseaux neuronaux distribuent des conseils nuisibles sur les régimes. Ils proposent des moyens de cacher le trouble et génèrent du "contenu inspirant pour perdre du poids" qui aggrave le problème.
OpenAGI a publié le modèle Lux qui dépasse Google et OpenAI
La startup OpenAGI a publié le modèle Lux pour le contrôle d'ordinateur et affirme que c'est une percée. Selon les benchmarks, le modèle dépasse d'une génération entière les analogues de Google, OpenAI et Anthropic. De plus, il fonctionne plus vite. Environ 1 seconde par étape au lieu de 3 secondes chez les concurrents. Et 10 fois moins cher en coût par traitement de 1 token.