My name is AIvengo and I bring you daily news updates about artificial intelligence
AIvengo > Reseñas > Científicos tienen más miedo de alucinaciones de IA
Científicos tienen más miedo de alucinaciones de IA
Cuanto más científicos trabajan con inteligencia artificial, menos confían en ella. Editor académico Wiley publicó informe preliminar para 2025 sobre impacto de tecnologías en ciencia, y conclusiones ahí son paradójicas. Investigadores comenzaron a tratar redes neuronales con mayor escepticismo que hace año, cuando tecnología era obviamente menos desarrollada.
Veamos números. En encuesta 2024, 51% de científicos encuestados se preocupaban por alucinaciones. Esto es cuando grandes modelos de lenguaje hacen pasar información fabricada por verdad. ¿Y qué pasó después de año cuando redes neuronales se volvieron más poderosas? ¡Este número creció a 64%! Mientras uso de IA entre investigadores creció de 45% a 62%.
Y luego se pone aún más interesante. En 2024, más de 50% de científicos creían que IA ya superaba capacidades humanas. Y en 2025 esta creencia colapsó a 30%. Ahí está realidad después del bombo.
Y estos datos concuerdan con estudios previos que dicen: cuanto más personas aprenden sobre cómo funciona IA, menos confían en ella. Y familiaridad genera desconfianza.
Amo inteligencia artificial. Pero como trabajo con ella mucho tiempo – conozco sus limitaciones. Y no la idealizo. Esto es – simplemente herramienta fantástica. Pero requiere manos hábiles.
La compañía china UBTech ganó un contrato por $37 millones. Y enviará robots humanoides Walker S2 a servir en la frontera de China con Vietnam. South China Morning Post informa que los robots interactuarán con turistas y personal, realizarán operaciones logísticas, inspeccionarán carga y patrullarán el territorio. Y característicamente — pueden cambiar su batería de forma autónoma.
Anthropic reveló accidentalmente el "alma" de la inteligencia artificial a un usuario. Y esto no es una metáfora. Este es un documento interno bastante específico.
Jensen Huang anunció una movilización total bajo la bandera de la inteligencia artificial dentro de Nvidia. Y esto ya no es una recomendación. Esto es un requisito.
Un estudio conjunto de la Universidad de Stanford y el Center for Democracy and Technology mostró un panorama preocupante. Los chatbots con inteligencia artificial representan un riesgo serio para personas con trastornos alimentarios. Los científicos advierten que las redes neuronales distribuyen consejos dañinos sobre dietas. Sugieren formas de ocultar el trastorno y generan "contenido inspirador para bajar de peso" que agrava el problema.
La startup OpenAGI lanzó el modelo Lux para control de computadora y afirma que esto es un avance. Según los benchmarks, el modelo supera por una generación completa a los análogos de Google, OpenAI y Anthropic. Además, funciona más rápido. Aproximadamente 1 segundo por paso en lugar de 3 segundos en los competidores. Y 10 veces más barato en costo por procesamiento de 1 token.