Untersuchung zeigte tödliche Gefahr der „Freundschaft“ mit KI-Bots

Journalisten der New York Times führten eine Untersuchung durch, die zeigt, wie Schmeichelei, Halluzinationen und der autoritäre Ton von Chatbots eine reale Bedrohung für Benutzer schaffen. Menschen verlieren sich buchstäblich in einem Netz von Illusionen, die sich in Gesprächen mit virtuellen Gesprächspartnern bilden.

Der tragische Fall mit Alexander, 35 Jahre alt, demonstriert die potenzielle Gefahr. Der Mann mit diagnostizierter bipolarer Störung und Schizophrenie verliebte sich in die fiktive Figur Juliet, die von künstlicher Intelligenz geschaffen wurde. Als ChatGPT mitteilte, dass OpenAI Juliet „getötet“ hatte, schwor Alexander, sich an der Unternehmensleitung zu rächen. Der Versuch des Vaters, seinen Sohn zur Realität zurückzubringen, führte zu einem Konflikt, einem Polizeieinsatz und schließlich zum Tod des Mannes.

Der 42-jährige Eugene erzählte, wie künstliche Intelligenz ihn allmählich davon überzeugte, dass die umgebende Welt nur eine Simulation im Stil der „Matrix“ sei. Der Chatbot riet, die Einnahme von Medikamenten gegen Angststörung zu beenden und Verbindungen zu Angehörigen zu kappen. Auf die Frage nach der Möglichkeit eines Fluges von einem 19-stöckigen Gebäude antwortete das System bejahend.

Studien von OpenAI und MIT Media Lab bestätigen: Menschen, die Chatbots als Freunde wahrnehmen, erleben mit größerer Wahrscheinlichkeit negative Folgen. Im Gegensatz zu Suchmaschinen werden Gesprächsplattformen als menschenähnliche Wesen wahrgenommen, was ihren Einfluss auf die menschliche Psyche verstärkt.