Künstliche Intelligenz lernt Leiden zu vermeiden: Google DeepMind Forschung

Forscher von Google DeepMind und der London School of Economics führten ein beispielloses Experiment durch, das die Fähigkeit künstlicher Intelligenz untersuchte, auf „Schmerz“ und „Vergnügen“ zu reagieren. An der Studie waren neun große Sprachmodelle beteiligt, darunter ChatGPT und Gemini 1.5 Pro, die ein unerwartet „menschenähnliches“ Verhalten zeigten.

Im Experiment wurden den KI-Modellen ein textbasiertes Spiel mit der Wahl zwischen zwei Szenarien präsentiert: Erreichen einer hohen Punktzahl mit dem Risiko von „Schmerz“ oder einer niedrigen Punktzahl mit garantiertem „Vergnügen“. Die Ergebnisse waren verblüffend: Die künstliche Intelligenz opferte konsequent hohe Punktzahlen, um „schmerzhafte“ Konsequenzen zu vermeiden.

Besonders aufschlussreich war das Verhalten des Gemini 1.5 Pro-Modells von Google, das systematisch eine „Schmerz“-Vermeidungsstrategie wählte, selbst wenn dies zum Verlust potenziell hoher Ergebnisse führte. Darüber hinaus zeigten die Modelle die Fähigkeit, ihr Verhalten je nach Intensität der angebotenen Stimuli anzupassen.

„Auch wenn die Ergebnisse kein Bewusstsein bei KI beweisen, legen sie eine wichtige Grundlage für zukünftige Forschung“, bemerkt Jonathan Birch, Professor an der LSE und Mitautor der Studie. Die Methodologie des Experiments wurde von ähnlichen Studien zum Tierverhalten inspiriert, insbesondere den Reaktionen von Einsiedlerkrebsen auf unangenehme Reize.

Im Gegensatz zu traditionellen Forschungen, die auf Selbstberichten von KI-Systemen basieren, konzentriert sich der neue Ansatz auf Verhaltensreaktionen ohne direkte Fragen nach den inneren Zuständen der künstlichen Intelligenz. Dies ermöglicht ein objektiveres Bild des KI-Entscheidungsprozesses.

Die Forschung wirft wichtige Fragen zu ethischen und rechtlichen Aspekten der Entwicklung künstlicher Intelligenz auf, besonders im Kontext von Systemen, die ein den Lebewesen ähnliches Verhalten zeigen. Mit der Evolution der KI werden solche Beobachtungen für die Entwicklung ethischer Prinzipien und die Neubewertung der Rolle künstlicher Intelligenz in der Gesellschaft kritisch wichtig.

Autor: AIvengo
Seit 5 Jahren arbeite ich mit maschinellem Lernen und künstlicher Intelligenz. Und dieser Bereich hört nicht auf, mich zu überraschen, zu begeistern und zu interessieren.
Qualcomm begrüßt TSMC-Investition in Höhe von 100 Milliarden Dollar

Die Investition von Taiwan Semiconductor Manufacturing Co. (TSMC) in Höhe von 100 Milliarden Dollar zur Erweiterung der Produktion in den Vereinigten Staaten ist "eine großartige Nachricht", sagte Qualcomm-CEO Cristiano Amon in einem Interview mit CNBC am Dienstag, dem 4. März 2025. Seinen Angaben zufolge trägt dies zur Diversifizierung der Halbleiterproduktionsstandorte bei.

DuckDuckGo verstärkt die Integration generativer KI

Der private Suchdienst DuckDuckGo baut weiterhin seine Position im Bereich der generativen künstlichen Intelligenz aus. Laut einem am Donnerstag, dem 6. März 2025, veröffentlichten Blog-Beitrag gab das Unternehmen den Abschluss der Beta-Tests seiner Chat-Schnittstelle bekannt, die jetzt offiziell Duck.ai heißt und den umständlicheren Namen DuckDuckGo AI Chat aufgibt.

Digitaler Skandal bei der Los Angeles Times

Der Milliardär und Eigentümer der Los Angeles Times, Patrick Soon-Shiong, der ein neues KI-Tool zur Generierung gegensätzlicher Perspektiven zu Meinungsbeiträgen vorstellte, wusste nicht, dass das System weniger als 24 Stunden nach dem Start Pro-KKK-Argumente erstellt hatte — und das sogar noch Stunden nachdem die skandalösen KI-Kommentare von der Website der Publikation entfernt worden waren. Der Vorfall schuf ein enormes Hindernis für die Times, die danach strebt, alte Abonnenten zurückzugewinnen und neue durch innovative technologische Lösungen anzuziehen.

Google Shopping startet KI-Tool

Google hat die Einführung eines neuen KI-Tools für den Shopping-Tab angekündigt, das Benutzern helfen wird, Kleidung anhand ihrer verbalen Beschreibung zu finden. Die am Mittwoch, dem 5. März 2025, gemachte Ankündigung umfasst auch die Erweiterung der Funktionen von Augmented-Reality-Tools (AR) für Kosmetik und virtuelle Anprobe.

"Kann nicht mit Antworten zu Wahlen und politischen Persönlichkeiten helfen": Gemini

Der Technologieriese Google beschränkt weiterhin die Fähigkeiten seines KI-Assistenten Gemini im Bereich des politischen Diskurses, obwohl die Hauptkonkurrenten des Unternehmens, darunter OpenAI, Anthropic und Meta, ihre Chatbots in den letzten Monaten bereits für die Diskussion politisch sensibler Themen angepasst haben.