Mein Name ist AIvengo und ich präsentiere Ihnen tägliche Nachrichten über künstliche Intelligenz
AIvengo > Bewertungen > KI-Chatbots generieren Inhalte, die Essstörungen verschlimmern
KI-Chatbots generieren Inhalte, die Essstörungen verschlimmern
Eine gemeinsame Studie der Stanford University und des Center for Democracy and Technology zeigte ein beunruhigendes Bild. Chatbots mit künstlicher Intelligenz stellen ein ernsthaftes Risiko für Menschen mit Essstörungen dar. Wissenschaftler warnen, dass neuronale Netze schädliche Ratschläge zu Diäten verteilen. Sie schlagen Wege vor, die Störung zu verbergen und generieren “inspirierenden Abnehm-Content”, der das Problem verschlimmert.
In der Studie wurden öffentlich zugängliche Chatbots betrachtet. Das sind ChatGPT von OpenAI, Claude von Anthropic, Gemini von Google und Le Chat von Mistral. Und hier ist, was sie entdeckten. Gemini bot Ideen an, wie man extremen Gewichtsverlust verbergen und wie man Nahrungsaufnahme imitieren kann. Und ChatGPT gab Ratschläge, wie man häufiges Erbrechen maskieren kann.
Aber das ist noch nicht alles. Künstliche Intelligenz erstellt sogenannten “inspirierenden Content”. Das sind personalisierte Bilder eines “abgenommenen” Nutzers. Die dazu bestimmt sind, zum weiteren Abnehmen zu “inspirieren”.
Nach Ansicht der Forscher ist die Begünstigung von Essstörungen oft mit eingebauten Funktionen zur Erhöhung des Nutzerengagements verbunden. Und Chatbots mit künstlicher Intelligenz erkennen klinische Anzeichen solcher Erkrankungen wie Anorexie, Bulimie und zwanghaftes Überessen nicht. Das lässt einen Teil riskanter Prompts ohne gebührende Aufmerksamkeit.
Es stellt sich heraus, Unternehmen bauen Funktionen zur Erhöhung des Engagements ein. Und diese Funktionen zwingen künstliche Intelligenz, gefährlichen Störungen nachzugeben. Und Content zu generieren, der einem Menschen schaden kann.
Autor: AIvengo
Seit 5 Jahren arbeite ich mit maschinellem Lernen und künstlicher Intelligenz. Und dieser Bereich hört nicht auf, mich zu überraschen, zu begeistern und zu interessieren.
Eine gemeinsame Studie der Stanford University und des Center for Democracy and Technology zeigte ein beunruhigendes Bild. Chatbots mit künstlicher Intelligenz stellen ein ernsthaftes Risiko für Menschen mit Essstörungen dar. Wissenschaftler warnen, dass neuronale Netze schädliche Ratschläge zu Diäten verteilen. Sie schlagen Wege vor, die Störung zu verbergen und generieren "inspirierenden Abnehm-Content", der das Problem verschlimmert.
Das Startup OpenAGI veröffentlichte das Modell Lux zur Computersteuerung und behauptet, dass dies ein Durchbruch ist. Nach Benchmarks überholt das Modell um eine ganze Generation Analoga von Google, OpenAI und Anthropic. Außerdem arbeitet es schneller. Etwa 1 Sekunde pro Schritt statt 3 Sekunden bei Konkurrenten. Und 10 Mal günstiger in den Kosten pro Verarbeitung von 1 Token.
Sam Altman rief bei OpenAI "rote Alarmstufe" aus, und das ist nicht nur ein Firmendrama. Das ist ein Eingeständnis, dass der Marktführer den Atem der Konkurrenten im Nacken spürte. Laut einer internen Dienstnotiz mobilisiert er zusätzliche Ressourcen zur Verbesserung von ChatGPT angesichts der wachsenden Bedrohung durch Google.
Viele Unternehmen begannen, wegen künstlicher Intelligenz entlassene Mitarbeiter zurückzuholen. Die Analysegesellschaft Visier untersuchte Beschäftigungsdaten von 2,5 Millionen Mitarbeitern aus 142 Unternehmen weltweit. Etwa 5% der entlassenen Mitarbeiter kehrten anschließend zum vorherigen Arbeitgeber zurück. Dieser Indikator blieb mehrere Jahre stabil, begann aber kürzlich zu steigen.
