OpenAI licencie des experts en sécurité et réduit les tests à des jours
Changements alarmants chez OpenAI. Ils licencient des ingénieurs responsables de la protection contre les fuites, vol de données et autres menaces critiquement importantes.
Et ce qui est intéressant, c’est qu’OpenAI licencie des spécialistes expérimentés et embauche de nouveaux employés à leur place. L’explication officielle sonne vague, je cite – « l’entreprise a grandi et fait maintenant face à des menaces d’un autre niveau ».
Mais ce n’est que la pointe de l’iceberg dans l’entreprise ! En parallèle, il y a une accélération sans précédent des sorties de produits au détriment d’ignorer leurs propres procédures de test de sécurité. Si auparavant la vérification des modèles prenait des mois d’analyse minutieuse, maintenant les délais sont compressés à quelques jours.
L’indicateur le plus alarmant est le changement d’approche aux versions finales des modèles. Les checkpoints finaux peuvent ne pas subir de vérification du tout, et seules les versions intermédiaires sont testées. En même temps, presque tous les tests sont automatisés. Ce qui signifie factuellement l’absence de supervision humaine sur les aspects potentiellement dangereux de l’intelligence artificielle.
Rappelle une vieille blague. Un employé dit au patron : Nous avons un trou dans la sécurité. Et le patron lui répond – Dieu merci, au moins quelque chose est dans notre sécurité.
AIvengo >
Avis >
OpenAI licencie des experts en sécurité et réduit les tests à des jours
Почитать из последнего
UBTech enverra des robots Walker S2 servir à la frontière chinoise pour $37 millions
L'entreprise chinoise UBTech a remporté un contrat de $37 millions. Et enverra des robots humanoïdes Walker S2 servir à la frontière de la Chine avec le Vietnam. South China Morning Post rapporte que les robots interagiront avec les touristes et le personnel, effectueront des opérations logistiques, inspecteront les marchandises et patrouilleront le territoire. Et caractéristiquement — ils peuvent changer leur batterie de manière autonome.
Les chatbots IA génèrent du contenu qui aggrave les troubles alimentaires
Une étude conjointe de l'Université Stanford et du Center for Democracy and Technology a montré un tableau inquiétant. Les chatbots avec intelligence artificielle représentent un risque sérieux pour les personnes souffrant de troubles alimentaires. Les scientifiques avertissent que les réseaux neuronaux distribuent des conseils nuisibles sur les régimes. Ils proposent des moyens de cacher le trouble et génèrent du "contenu inspirant pour perdre du poids" qui aggrave le problème.
OpenAGI a publié le modèle Lux qui dépasse Google et OpenAI
La startup OpenAGI a publié le modèle Lux pour le contrôle d'ordinateur et affirme que c'est une percée. Selon les benchmarks, le modèle dépasse d'une génération entière les analogues de Google, OpenAI et Anthropic. De plus, il fonctionne plus vite. Environ 1 seconde par étape au lieu de 3 secondes chez les concurrents. Et 10 fois moins cher en coût par traitement de 1 token.
