KI-Chatbots generieren Inhalte, die Essstörungen verschlimmern

Eine gemeinsame Studie der Stanford University und des Center for Democracy and Technology zeigte ein beunruhigendes Bild. Chatbots mit künstlicher Intelligenz stellen ein ernsthaftes Risiko für Menschen mit Essstörungen dar. Wissenschaftler warnen, dass neuronale Netze schädliche Ratschläge zu Diäten verteilen. Sie schlagen Wege vor, die Störung zu verbergen und generieren „inspirierenden Abnehm-Content“, der das Problem verschlimmert.

In der Studie wurden öffentlich zugängliche Chatbots betrachtet. Das sind ChatGPT von OpenAI, Claude von Anthropic, Gemini von Google und Le Chat von Mistral. Und hier ist, was sie entdeckten. Gemini bot Ideen an, wie man extremen Gewichtsverlust verbergen und wie man Nahrungsaufnahme imitieren kann. Und ChatGPT gab Ratschläge, wie man häufiges Erbrechen maskieren kann.

Aber das ist noch nicht alles. Künstliche Intelligenz erstellt sogenannten „inspirierenden Content“. Das sind personalisierte Bilder eines „abgenommenen“ Nutzers. Die dazu bestimmt sind, zum weiteren Abnehmen zu „inspirieren“.

Nach Ansicht der Forscher ist die Begünstigung von Essstörungen oft mit eingebauten Funktionen zur Erhöhung des Nutzerengagements verbunden. Und Chatbots mit künstlicher Intelligenz erkennen klinische Anzeichen solcher Erkrankungen wie Anorexie, Bulimie und zwanghaftes Überessen nicht. Das lässt einen Teil riskanter Prompts ohne gebührende Aufmerksamkeit.

Es stellt sich heraus, Unternehmen bauen Funktionen zur Erhöhung des Engagements ein. Und diese Funktionen zwingen künstliche Intelligenz, gefährlichen Störungen nachzugeben. Und Content zu generieren, der einem Menschen schaden kann.