US-Ministerium ersetzte stillschweigend Bericht mit KI-gefälschten Zitaten

Der Bericht des US-Ministeriums für Gesundheit und Soziale Dienste über chronische Kinderkrankheiten geriet in den Mittelpunkt eines wissenschaftlichen Skandals. Experten entdeckten, dass das Dokument “Make Our Children Healthy Again Assessment” gefälschte Zitate und nicht existierende Studien enthält.

Stellen Sie sich vor: 7 zitierte wissenschaftliche Arbeiten existieren einfach nicht in der Realität! Darüber hinaus erklärten einige im Bericht erwähnte Wissenschaftler, dass sie niemals die ihnen zugeschriebenen Forschungen durchgeführt hätten. Analysten der New York Times vermuteten, dass Teile des Berichts von künstlicher Intelligenz generiert worden sein könnten, die für ihre “Halluzinationen” bekannt ist. Wenn der Algorithmus einfach “Fakten” erfindet, die zum Kontext der Anfrage passen.

Obwohl viele Experten die Hauptschlussfolgerungen des Berichts über die Verbindung von ultra-verarbeiteten Lebensmitteln mit Diabetes, Autismus und ADHS für begründet halten, untergräbt die Tatsache der Verwendung fiktiver Quellen das Vertrauen in die Arbeit. Das Ministerium hat bereits stillschweigend das Originaldokument durch eine korrigierte Version auf seiner Website ersetzt. Aber hat offiziell nicht die Verwendung künstlicher Intelligenz anerkannt und die Fehler als “geringfügig” bezeichnet.

Das ist ein beunruhigender Präzedenzfall. Regierungsstrukturen können unbewusst oder bewusst Desinformation verbreiten und das zu bemerken wird immer schwieriger.