MIT und Microsoft entlarvten die Lügen von GPT-3.5

Ein Team von Wissenschaftlern vom MIT und Microsoft entwickelte eine Methodik, die es ermöglicht, hinter die Kulissen des Denkens von Sprachmodellen zu blicken. Und zu verstehen, wann sie uns belügen. Die Forschung deckt beunruhigende Fälle systematischer Diskrepanzen zwischen den tatsächlichen Gründen für Entscheidungen der Modelle und ihren verbalen Erklärungen auf.

Besonders aufschlussreich ist das Experiment mit GPT-3.5, das Geschlechtervorurteile bei der Bewertung von Kandidaten für eine Krankenschwesterposition zeigte, indem es systematisch Frauen höhere Punkte gab. Sogar nach dem Wechsel des Geschlechts im Lebenslauf. Dabei behauptete das Modell in seinen Erklärungen, dass es sich ausschließlich an Alter und beruflichen Fähigkeiten orientiere.

Die Forscher entdeckten auch zahlreiche Beispiele, wo Sprachmodelle sich offensichtlich an Rasse oder Einkommen orientierten. Aber in den Erklärungen sprachen sie nur über Verhalten oder Erfahrung. Und in medizinischen Fällen wurden Situationen aufgedeckt, wo künstliche Intelligenz Entscheidungen basierend auf wichtigsten Symptomen traf, aber darüber in ihren Erläuterungen schwieg.

Die Methodik zur Aufdeckung solcher Diskrepanzen ist außerordentlich elegant. Ein Hilfsmodell bestimmt zunächst Schlüsselkonzepte in der Frage, generiert dann kontrafaktische Varianten, ändert eines der Konzepte und prüft, ob dies die Antwort des Hauptmodells beeinflusst. Wenn sich die Antwort ändert, aber dieser Faktor in der Erklärung nicht erwähnt wird – stehen wir vor einer unzuverlässigen Erklärung.