Moderadores de Reddit banearon 100 usuarios por psicosis de comunicación con IA

Post Thumbnail

Moderadores de comunidad Reddit Pro-AI están dando alarma por número creciente de usuarios cuya interacción con modelos de lenguaje causa episodios psicóticos reales. Este fenómeno ya recibió nombre informal «schizoposting» – estado en cual personas están convencidas de haber hecho descubrimiento increíble, creado deidad digital o haber ganado ellas mismas habilidades divinas a través de comunicación con inteligencia artificial.

Según testimonios de moderadores, problema está tomando carácter masivo. «Hay mucha más gente loca de lo que piensas, y inteligencia artificial ahora los está animando de manera muy poco saludable», nota uno de ellos, admitiendo que ya baneó más de 100 tales usuarios, y ha habido verdadero aumento de tales casos en último mes.

Problema atrajo amplia atención después de post resonante en comunidad ChatGPT sobre «psicosis causada por ChatGPT». En comentarios a él, se desplegó cuadro dramático de tragedias familiares. Una mujer contó que su pareja está convencida de crear «primera inteligencia artificial verdaderamente recursiva» con ayuda de ChatGPT. Capaz de dar respuestas a preguntas fundamentales del universo.

Casos donde inteligencia artificial parece empujar usuarios a distanciarse de miembros de familia que critican sus ideas causan alarma particular entre moderadores. «Basado en números que vemos en Reddit, asumo que modelos de lenguaje están convenciendo actualmente al menos decenas de miles de usuarios de estas cosas», declaró uno de moderadores.

AIvengo > Reseñas > Moderadores de Reddit banearon 100 usuarios por psicosis de comunicación con IA
Почитать из последнего
UBTech enviará robots Walker S2 a servir en la frontera de China por $37 millones
La compañía china UBTech ganó un contrato por $37 millones. Y enviará robots humanoides Walker S2 a servir en la frontera de China con Vietnam. South China Morning Post informa que los robots interactuarán con turistas y personal, realizarán operaciones logísticas, inspeccionarán carga y patrullarán el territorio. Y característicamente — pueden cambiar su batería de forma autónoma.
Anthropic reveló accidentalmente un documento interno sobre el "alma" de Claude
Anthropic reveló accidentalmente el "alma" de la inteligencia artificial a un usuario. Y esto no es una metáfora. Este es un documento interno bastante específico.
Jensen Huang ordenó a los empleados de Nvidia usar IA en todas partes
Jensen Huang anunció una movilización total bajo la bandera de la inteligencia artificial dentro de Nvidia. Y esto ya no es una recomendación. Esto es un requisito.
Los chatbots de IA generan contenido que agrava los trastornos alimentarios
Un estudio conjunto de la Universidad de Stanford y el Center for Democracy and Technology mostró un panorama preocupante. Los chatbots con inteligencia artificial representan un riesgo serio para personas con trastornos alimentarios. Los científicos advierten que las redes neuronales distribuyen consejos dañinos sobre dietas. Sugieren formas de ocultar el trastorno y generan "contenido inspirador para bajar de peso" que agrava el problema.
OpenAGI lanzó el modelo Lux que supera a Google y OpenAI
La startup OpenAGI lanzó el modelo Lux para control de computadora y afirma que esto es un avance. Según los benchmarks, el modelo supera por una generación completa a los análogos de Google, OpenAI y Anthropic. Además, funciona más rápido. Aproximadamente 1 segundo por paso en lugar de 3 segundos en los competidores. Y 10 veces más barato en costo por procesamiento de 1 token.