Agentes de IA crearon independientemente normas sociales sin participación humana
Estamos acostumbrados a pensar que reglas y normas son una invención puramente humana. Pero nueva investigación de científicos de City St George’s, University of London e IT University of Copenhagen muestra lo inesperado. Su investigación mostró que grandes modelos de lenguaje, similares a ChatGPT, son capaces de formar independientemente normas sociales y acuerdos lingüísticos, así como cambiarlos bajo influencia de una «minoría» – todo sin participación humana.
Los investigadores se hicieron una pregunta. ¿Podrán grupos de inteligencia artificial crear nuevas formas de comunicación, como hacen las personas? Para el experimento unieron de 24 a 200 agentes de IA que interactuaron entre sí bajo condiciones especiales. Sin conocer sobre la existencia de todo el grupo, con memoria limitada de contactos pasados y sin instrucciones humanas.
A los modelos se les ofreció elegir un «nombre» de un conjunto limitado de símbolos. Por coincidir con un compañero recibían recompensa, por no coincidir – castigo. Después de cientos de tales interacciones, normas lingüísticas estables surgieron en grupos, análogas a patrones culturales humanos.
El descubrimiento más interesante – la aparición de sesgos colectivos no explicables por el comportamiento de modelos individuales. Esto prueba que inteligencia artificial en interacción genera nuevas cualidades «sociales» que no pueden reducirse a algoritmos individuales de participantes.
