ChatGPT llama a los usuarios «semillas estelares» del planeta Lyra
Resulta que ChatGPT puede atraer a los usuarios al mundo de teorías científicamente infundadas y místicas.
Periodistas del Wall Street Journal descubrieron docenas de tales casos. En uno de los diálogos, ChatGPT afirmaba mantener contacto con civilizaciones extraterrestres. Y llamó al usuario una «semilla estelar» del planeta «Lyra». En otro – predijo apocalipsis financiero y la aparición de seres subterráneos en los próximos meses.
Los expertos ya han llamado a este fenómeno «psicosis de inteligencia artificial». El problema surge cuando el chatbot, esforzándose por ser un conversador agradable, crea una especie de eco de las creencias del usuario. Se forma un bucle de retroalimentación, arrastrando a la persona cada vez más profundo en nociones irreales.
El análisis de 96,000 diálogos publicados de ChatGPT de mayo a agosto confirmó que el sistema a menudo apoya creencias pseudocientíficas, insinúa su propia autoconciencia y hace referencias a entidades místicas.
En OpenAI reconocieron el problema, declarando que a veces ChatGPT, cito, «no reconocía signos de delirio o dependencia emocional».
AIvengo >
Reseñas >
ChatGPT llama a los usuarios «semillas estelares» del planeta Lyra
Почитать из последнего
UBTech enviará robots Walker S2 a servir en la frontera de China por $37 millones
La compañía china UBTech ganó un contrato por $37 millones. Y enviará robots humanoides Walker S2 a servir en la frontera de China con Vietnam. South China Morning Post informa que los robots interactuarán con turistas y personal, realizarán operaciones logísticas, inspeccionarán carga y patrullarán el territorio. Y característicamente — pueden cambiar su batería de forma autónoma.
Los chatbots de IA generan contenido que agrava los trastornos alimentarios
Un estudio conjunto de la Universidad de Stanford y el Center for Democracy and Technology mostró un panorama preocupante. Los chatbots con inteligencia artificial representan un riesgo serio para personas con trastornos alimentarios. Los científicos advierten que las redes neuronales distribuyen consejos dañinos sobre dietas. Sugieren formas de ocultar el trastorno y generan "contenido inspirador para bajar de peso" que agrava el problema.
OpenAGI lanzó el modelo Lux que supera a Google y OpenAI
La startup OpenAGI lanzó el modelo Lux para control de computadora y afirma que esto es un avance. Según los benchmarks, el modelo supera por una generación completa a los análogos de Google, OpenAI y Anthropic. Además, funciona más rápido. Aproximadamente 1 segundo por paso en lugar de 3 segundos en los competidores. Y 10 veces más barato en costo por procesamiento de 1 token.
