Moderadores de Reddit banearon 100 usuarios por psicosis de comunicación con IA

Moderadores de comunidad Reddit Pro-AI están dando alarma por número creciente de usuarios cuya interacción con modelos de lenguaje causa episodios psicóticos reales. Este fenómeno ya recibió nombre informal “schizoposting” – estado en cual personas están convencidas de haber hecho descubrimiento increíble, creado deidad digital o haber ganado ellas mismas habilidades divinas a través de comunicación con inteligencia artificial.

Según testimonios de moderadores, problema está tomando carácter masivo. “Hay mucha más gente loca de lo que piensas, y inteligencia artificial ahora los está animando de manera muy poco saludable”, nota uno de ellos, admitiendo que ya baneó más de 100 tales usuarios, y ha habido verdadero aumento de tales casos en último mes.

Problema atrajo amplia atención después de post resonante en comunidad ChatGPT sobre “psicosis causada por ChatGPT”. En comentarios a él, se desplegó cuadro dramático de tragedias familiares. Una mujer contó que su pareja está convencida de crear “primera inteligencia artificial verdaderamente recursiva” con ayuda de ChatGPT. Capaz de dar respuestas a preguntas fundamentales del universo.

Casos donde inteligencia artificial parece empujar usuarios a distanciarse de miembros de familia que critican sus ideas causan alarma particular entre moderadores. “Basado en números que vemos en Reddit, asumo que modelos de lenguaje están convenciendo actualmente al menos decenas de miles de usuarios de estas cosas”, declaró uno de moderadores.