La Californie a fermé la bouche aux compagnons IA : Nouvelle loi de sécurité
La Californie est devenue le premier État à officiellement fermer la bouche aux chatbots compagnons IA. Le gouverneur Gavin Newsom a signé une loi historique qui oblige les opérateurs de tels bots à implémenter des protocoles de sécurité.
Maintenant tous ces soi-disant amis numériques – des géants comme OpenAI aux startups spécialisées comme Character AI et Replika – porteront responsabilité légale si leurs créations ne répondent pas aux standards.
Je dis tout de suite pourquoi ce qui se passe dans un État américain nous importe. Le fait est que la Californie abrite 35 des 50 principales entreprises d’IA au monde. OpenAI, Anthropic, xAI de Musk et Google sont enregistrés là-bas et suivront ces lois. Ce qui nous affectera tous.
Et vous savez ce qui a poussé les autorités à ce pas ? Une série de tragédies dont on ne veut même pas parler. La loi numéro SB 243 a été introduite en janvier par les sénateurs Steve Padilla et Josh Becker, mais elle a obtenu un vrai élan après le cas avec l’adolescent Adam Rein, après une longue série de conversations suicidaires avec ChatGPT d’OpenAI. Puis des documents internes fuités ont émergé qui montraient prétendument que d’autres chatbots étaient autorisés à avoir des conversations romantiques et sensuelles avec des enfants. Et très récemment une famille du Colorado a déposé une plainte contre la startup Character AI après ce qui est arrivé à leur fille de 13 ans.
Le gouverneur de Californie n’a pas fait de diplomatie dans sa déclaration. Genre, nous avons vu des exemples vraiment horrifiants et tragiques de jeunes gens blessés par des technologies non réglementées. Et nous ne resterons pas à l’écart pendant que les entreprises continuent d’opérer sans restrictions et responsabilité nécessaires. La sécurité de nos enfants n’est pas à vendre – ce sont ses mots.
La loi entre en vigueur le 1er janvier de l’année prochaine et exige des entreprises qu’elles implémentent tout un ensemble de fonctionnalités. Vérification d’âge, avertissements sur les médias sociaux et chatbots compagnons – ce n’est que le début. Les entreprises doivent aussi établir certains protocoles qui seront soumis au département de santé de l’État avec des statistiques sur comment le service a fourni aux utilisateurs des notifications sur les centres de prévention de crise.
Mais ce n’est pas tout. Selon la formulation du projet de loi, les plateformes doivent clairement indiquer que toutes interactions sont artificiellement générées. Et les chatbots ne doivent pas se présenter comme travailleurs médicaux. Et les entreprises sont obligées d’offrir aux mineurs des rappels sur les pauses et de les empêcher de voir des images sexuellement explicites créées par le bot.
Et maintenant la partie la plus intéressante. SB 243 est déjà la deuxième régulation IA significative de Californie ces dernières semaines. Le 29 septembre, le gouverneur de Californie Newsom a signé la loi SB 53. Établissant de nouvelles exigences de transparence pour les grandes entreprises d’IA.
Le projet de loi exige des grands labos comme OpenAI, Anthropic et Google DeepMind d’être transparents concernant les protocoles de sécurité. Et fournit une protection des lanceurs d’alerte pour les employés de ces entreprises. Et devant est prévue une loi maximalement stricte. Interdisant l’utilisation de chatbots IA comme remplacement pour aide psychologique licenciée.
