Agentes de IA crearon independientemente normas sociales sin participación humana
Estamos acostumbrados a pensar que reglas y normas son una invención puramente humana. Pero nueva investigación de científicos de City St George’s, University of London e IT University of Copenhagen muestra lo inesperado. Su investigación mostró que grandes modelos de lenguaje, similares a ChatGPT, son capaces de formar independientemente normas sociales y acuerdos lingüísticos, así como cambiarlos bajo influencia de una “minoría” – todo sin participación humana.
Los investigadores se hicieron una pregunta. ¿Podrán grupos de inteligencia artificial crear nuevas formas de comunicación, como hacen las personas? Para el experimento unieron de 24 a 200 agentes de IA que interactuaron entre sí bajo condiciones especiales. Sin conocer sobre la existencia de todo el grupo, con memoria limitada de contactos pasados y sin instrucciones humanas.
A los modelos se les ofreció elegir un “nombre” de un conjunto limitado de símbolos. Por coincidir con un compañero recibían recompensa, por no coincidir – castigo. Después de cientos de tales interacciones, normas lingüísticas estables surgieron en grupos, análogas a patrones culturales humanos.
El descubrimiento más interesante – la aparición de sesgos colectivos no explicables por el comportamiento de modelos individuales. Esto prueba que inteligencia artificial en interacción genera nuevas cualidades “sociales” que no pueden reducirse a algoritmos individuales de participantes.
Latest News
Amazon convierte mensajeros en cyborgs con gafas inteligentes de IAAmazon decidió convertir sus mensajeros en cyborgs. No, en serio - compañía anunció gafas inteligentes con IA para repartidores. Idea, según gigante de e-commerce, es liberar manos de conductores. Y ahorrarles tener que cambiar constantemente mirada entre teléfono, paquete y entorno.
OpenAI añadirá cameos de personajes a SoraOpenAI publicó hoja de ruta de desarrollo para Sora, ¿y saben qué? Parece que compañía finalmente se dio cuenta de que generación de video no es solo demostración tecnológica. Sino herramienta que personas necesitan realmente usar. Bill Peebles, jefe de proyecto, anunció conjunto completo de actualizaciones, y algunas de ellas son realmente interesantes.
Starcloud lanza satélite con IA en noviembre para centro de datos en espacio¿Saben a dónde ahora se mueven centros de datos para IA? Al espacio. Startup Starcloud, participante en programa NVIDIA Inception, planea lanzar en noviembre satélite con IA a órbita terrestre. Y este es solo comienzo de su plan ambicioso para resolver problemas de consumo de energía y enfriamiento de centros de datos en Tierra.
ChatGPT Atlas es vulnerable a inyecciones de prompt y puede ayudar con phishingConté sobre cómo OpenAI lanzó navegador ChatGPT Atlas. Y aquí primeros usuarios ya encontraron ramo completo de problemas. Comencemos con cosas básicas. Navegador no tiene bloqueador de anuncios integrado, modo de lectura y función de traducción de texto en página. Para volver a contar artículo o traducirlo, necesitan pedir a bot en chat.
China rompió máquina de litografía ASML al intentar copiarlaAquí está historia sobre cómo sustitución de importaciones enfrentó dura realidad. China intentó desmontar máquina de litografía ASML de categoría DUV para estudiar su diseño. ¿Resultado? Dañaron sistema y se dirigieron a ASML misma con solicitud de reparación. Absurdo de situación está por las nubes.
