My name is AIvengo and I bring you daily news updates about artificial intelligence
AIvengo > Reseñas > Padrinos de IA Bengio y Hinton llaman a detener desarrollo de AGI
Padrinos de IA Bengio y Hinton llaman a detener desarrollo de AGI
850 personas, incluyendo cofundador de Apple Steve Wozniak y fundador de Virgin Group Richard Branson, firmaron declaración llamando a prohibir desarrollo de superinteligencia o AGI. Esta es forma hipotética de inteligencia artificial que superará a humanos en prácticamente todas tareas cognitivas.
Lista fue encabezada por pioneros de tecnología – científicos Yoshua Bengio y Jeff Hinton. Quienes son considerados «padrinos» de IA moderna. Entre signatarios estaban académicos, personalidades mediáticas, líderes religiosos y ex políticos estadounidenses de ambos partidos.
Superinteligencia se convirtió en palabra de moda en carrera entre gigantes como xAI y OpenAI. Pero autores de declaración advierten: perspectiva de superinteligencia genera serias preocupaciones. Desde innecesidad económica de personas y pérdida de libertades hasta riesgos para seguridad nacional e incluso posible extinción de humanidad.
Exigen prohibición de desarrollo hasta que haya fuerte apoyo público y consenso científico. De que tecnología puede ser creada y controlada de manera segura. Imagen interesante emerge: algunas compañías corren para construir superinteligencia, mientras otras gritan «alto».
La compañía china UBTech ganó un contrato por $37 millones. Y enviará robots humanoides Walker S2 a servir en la frontera de China con Vietnam. South China Morning Post informa que los robots interactuarán con turistas y personal, realizarán operaciones logísticas, inspeccionarán carga y patrullarán el territorio. Y característicamente — pueden cambiar su batería de forma autónoma.
Anthropic reveló accidentalmente el "alma" de la inteligencia artificial a un usuario. Y esto no es una metáfora. Este es un documento interno bastante específico.
Jensen Huang anunció una movilización total bajo la bandera de la inteligencia artificial dentro de Nvidia. Y esto ya no es una recomendación. Esto es un requisito.
Un estudio conjunto de la Universidad de Stanford y el Center for Democracy and Technology mostró un panorama preocupante. Los chatbots con inteligencia artificial representan un riesgo serio para personas con trastornos alimentarios. Los científicos advierten que las redes neuronales distribuyen consejos dañinos sobre dietas. Sugieren formas de ocultar el trastorno y generan "contenido inspirador para bajar de peso" que agrava el problema.
La startup OpenAGI lanzó el modelo Lux para control de computadora y afirma que esto es un avance. Según los benchmarks, el modelo supera por una generación completa a los análogos de Google, OpenAI y Anthropic. Además, funciona más rápido. Aproximadamente 1 segundo por paso en lugar de 3 segundos en los competidores. Y 10 veces más barato en costo por procesamiento de 1 token.
