California calló a compañeros de IA: Nueva ley de seguridad
California se convirtió en primer estado en oficialmente callar chatbots compañeros de IA. Gobernador Gavin Newsom firmó ley histórica que obliga a operadores de tales bots a implementar protocolos de seguridad.
Ahora todos estos llamados amigos digitales – desde gigantes como OpenAI hasta startups especializadas como Character AI y Replika – llevarán responsabilidad legal si sus creaciones no cumplen estándares.
Diré inmediatamente por qué nos importa qué pasa en algún estado de USA. Cosa es que California es hogar de 35 de 50 principales compañías de IA del mundo. OpenAI, Anthropic, xAI de Musk y Google están registrados justo ahí y seguirán estas leyes. Lo que nos afectará a todos.
¿Y saben qué empujó a autoridades a este paso? Serie de tragedias de las que ni siquiera quieres hablar. Ley número SB 243 fue introducida en enero por senadores Steve Padilla y Josh Becker, pero obtuvo verdadero impulso después de caso con adolescente Adam Rein, después de larga serie de conversaciones suicidas con ChatGPT de OpenAI. Luego surgieron documentos internos filtrados que supuestamente mostraban que otros chatbots tenían permitido tener conversaciones románticas y sensuales con niños. Y muy recientemente familia de Colorado presentó demanda contra startup Character AI después de lo que pasó con su hija de 13 años.
Gobernador de California no diplomatizó en su declaración. Como, hemos visto ejemplos verdaderamente horribles y trágicos de jóvenes dañados por tecnologías no reguladas. Y no nos quedaremos de lado mientras compañías continúan operando sin restricciones y responsabilidad necesarias. Seguridad de nuestros niños no está en venta – esas son sus palabras.
Ley entra en vigor 1 de enero próximo año y requiere que compañías implementen conjunto completo de características. Verificación de edad, advertencias sobre redes sociales y chatbots compañeros – eso es solo comienzo. Compañías también deben establecer ciertos protocolos que serán enviados a departamento de salud estatal junto con estadísticas sobre cómo servicio proporcionó a usuarios notificaciones sobre centros de prevención de crisis.
Pero eso no es todo. Según redacción de proyecto de ley, plataformas deben indicar claramente que cualquier interacción es artificialmente generada. Y chatbots no deben presentarse como trabajadores médicos. Y compañías están obligadas a ofrecer a menores recordatorios sobre descansos y prevenir que vean imágenes sexualmente explícitas creadas por bot.
Y ahora parte más interesante. SB 243 ya es segunda regulación significativa de IA de California en semanas recientes. El 29 de septiembre, gobernador de California Newsom firmó ley SB 53. Estableciendo nuevos requisitos de transparencia para grandes compañías de IA.
Proyecto de ley requiere que grandes laboratorios como OpenAI, Anthropic y Google DeepMind sean transparentes respecto a protocolos de seguridad. Y proporciona protección de denunciantes para empleados de estas compañías. Y adelante está planeada ley máximamente estricta. Prohibiendo uso de chatbots de IA como reemplazo para ayuda psicológica licenciada.
