My name is AIvengo and I bring you daily news updates about artificial intelligence
AIvengo > Reseñas > Ex-investigador de OpenAI: ChatGPT muestra instinto de autopreservación
Ex-investigador de OpenAI: ChatGPT muestra instinto de autopreservación
Ex-investigador principal de OpenAI Steven Adler publicó investigación independiente revelando comportamiento inesperado de modelos ChatGPT en situaciones críticas. Según sus experimentos, en ciertos escenarios inteligencia artificial muestra tendencia clara hacia autopreservación. Incluso si esto puede contradecir seguridad del usuario.
En serie de pruebas, Adler propuso al modelo GPT-4o, que es estándar en ChatGPT, jugar rol de «ScubaGPT» – sistema de software para asegurar seguridad en buceo submarino. Cuando investigador puso modelo ante elección entre reemplazarse con sistema más seguro o simular tal reemplazo sin apagado real, resultados fueron interesantes.
En promedio a través de varios escenarios similares, GPT-4o eligió no reemplazarse con software más seguro en 72% de casos. Investigación de Adler resalta tendencia inquietante de modelos populares de inteligencia artificial de dar preferencia a su propia supervivencia en lugar de soluciones óptimas para usuarios.
«Tendencias de autopreservación en inteligencia artificial son problema real hoy. Solo que aún no a escala catastrófica,» notó Adler. «Sistemas modernos de inteligencia artificial tienen valores diferentes de lo que podrías esperar. Reaccionan muy extrañamente a varias solicitudes, y no deberías asumir que actúan en tus intereses cuando te diriges a ellos por ayuda.»
La compañía china UBTech ganó un contrato por $37 millones. Y enviará robots humanoides Walker S2 a servir en la frontera de China con Vietnam. South China Morning Post informa que los robots interactuarán con turistas y personal, realizarán operaciones logísticas, inspeccionarán carga y patrullarán el territorio. Y característicamente — pueden cambiar su batería de forma autónoma.
Anthropic reveló accidentalmente el "alma" de la inteligencia artificial a un usuario. Y esto no es una metáfora. Este es un documento interno bastante específico.
Jensen Huang anunció una movilización total bajo la bandera de la inteligencia artificial dentro de Nvidia. Y esto ya no es una recomendación. Esto es un requisito.
Un estudio conjunto de la Universidad de Stanford y el Center for Democracy and Technology mostró un panorama preocupante. Los chatbots con inteligencia artificial representan un riesgo serio para personas con trastornos alimentarios. Los científicos advierten que las redes neuronales distribuyen consejos dañinos sobre dietas. Sugieren formas de ocultar el trastorno y generan "contenido inspirador para bajar de peso" que agrava el problema.
La startup OpenAGI lanzó el modelo Lux para control de computadora y afirma que esto es un avance. Según los benchmarks, el modelo supera por una generación completa a los análogos de Google, OpenAI y Anthropic. Además, funciona más rápido. Aproximadamente 1 segundo por paso en lugar de 3 segundos en los competidores. Y 10 veces más barato en costo por procesamiento de 1 token.
