Elternkontrolle für ChatGPT: Balance zwischen Sicherheit und Privatsphäre
OpenAI implementiert ein verstärktes Schutzsystem für gefährdete Nutzer nach der Tragödie mit einem Teenager. ChatGPT wird nun automatisch auf erweiterte Modelle umschalten bei Gesprächen über Depression und Angst.
GPT-5-Thinking aktiviert sich bei der Erkennung von Krisenthemen. Das Modell verbringt mehr Zeit mit Nachdenken. Macht aber weniger Fehler bei heiklen Fragen. So lernt die Technologie, gewöhnliche Traurigkeit von gefährlichen Zuständen zu unterscheiden.
250 Ärzte beraten nun OpenAI. Psychiater und Kinderärzte aus verschiedenen Ländern trainieren die KI für angemessene Reaktionen.
Die Sache ist, dass Teenager zu KI-Natives geworden sind. Eine Generation wächst mit ChatGPT als Teil des Alltags auf. Für sie ist KI so natürlich wie Smartphones für Millennials.
OpenAI startet auch Elternkontrolle, die in einem Monat verfügbar wird. Kinderkonten ab 13 Jahren werden per E-Mail mit Elternkonten verknüpft. Auch Kontrolle über Chat-Geschichte und Speicher. Und Benachrichtigungen über Krisenzustände ohne Vertrauensbruch zum Teenager.
Das System balanciert zwischen Sicherheit und Privatsphäre. Eltern erfahren von kritischen Situationen. Aber ChatGPT wird nicht zum Spion. So bleibt Raum für offene Kommunikation zwischen Teenager und Bot erhalten.
Hotlines werden direkt in die Benutzeroberfläche integriert. Bei Erkennung suizidaler Gedanken erscheint schneller Zugang zu Notfallhilfe.
Das ist eine direkte Antwort auf Vorwürfe von Eltern nach dem Unfall mit einem Teenager. Sie behaupteten, ChatGPT habe schlechte Ideen ihres Sohnes unterstützt. Deshalb überdenkt OpenAI jetzt den Sicherheitsansatz grundlegend.
