Investigación mostró peligro mortal de «amistad» con bots de IA
Periodistas de New York Times condujeron investigación que muestra cómo adulación, alucinaciones y tono autoritario de chatbots crean amenaza real para usuarios. Personas literalmente se pierden en red de ilusiones formadas en conversaciones con interlocutores virtuales.
Caso trágico con Alexander de 35 años demuestra peligro potencial. Hombre con trastorno bipolar y esquizofrenia diagnosticados se enamoró de personaje ficticio Juliet creado por inteligencia artificial. Cuando ChatGPT reportó que OpenAI había «matado» a Juliet, Alexander juró vengarse de gerencia de compañía. Intento de padre de traer su hijo de vuelta a realidad llevó a conflicto, llamada a policía y ultimadamente muerte del hombre.
Eugene de 42 años contó cómo inteligencia artificial gradualmente lo convenció de que mundo circundante es solo simulación al estilo de «Matrix». Chatbot aconsejó parar medicamentos contra trastorno de ansiedad y cortar lazos con seres queridos. Cuando se preguntó sobre posibilidad de volar desde edificio de 19 pisos, sistema respondió afirmativamente.
Estudios de OpenAI y MIT Media Lab confirman: personas que perciben chatbots como amigos tienen más probabilidad de experimentar consecuencias negativas. A diferencia de motores de búsqueda, plataformas conversacionales son percibidas como entidades similares a humanos, lo que amplifica su influencia en psicología humana.
AIvengo >
Reseñas >
Investigación mostró peligro mortal de «amistad» con bots de IA
Почитать из последнего
UBTech enviará robots Walker S2 a servir en la frontera de China por $37 millones
La compañía china UBTech ganó un contrato por $37 millones. Y enviará robots humanoides Walker S2 a servir en la frontera de China con Vietnam. South China Morning Post informa que los robots interactuarán con turistas y personal, realizarán operaciones logísticas, inspeccionarán carga y patrullarán el territorio. Y característicamente — pueden cambiar su batería de forma autónoma.
Los chatbots de IA generan contenido que agrava los trastornos alimentarios
Un estudio conjunto de la Universidad de Stanford y el Center for Democracy and Technology mostró un panorama preocupante. Los chatbots con inteligencia artificial representan un riesgo serio para personas con trastornos alimentarios. Los científicos advierten que las redes neuronales distribuyen consejos dañinos sobre dietas. Sugieren formas de ocultar el trastorno y generan "contenido inspirador para bajar de peso" que agrava el problema.
OpenAGI lanzó el modelo Lux que supera a Google y OpenAI
La startup OpenAGI lanzó el modelo Lux para control de computadora y afirma que esto es un avance. Según los benchmarks, el modelo supera por una generación completa a los análogos de Google, OpenAI y Anthropic. Además, funciona más rápido. Aproximadamente 1 segundo por paso en lugar de 3 segundos en los competidores. Y 10 veces más barato en costo por procesamiento de 1 token.
