KI erwacht zum Leben: Warum Anthropic-Mitgründer seine Schöpfung fürchtet

Anthropic-Mitgründer Jack Clark veröffentlichte ein Essay, das einem unbehaglich wird. Er schrieb über die Natur moderner künstlicher Intelligenz, und seine Schlussfolgerungen klingen wie eine Warnung.

Clark vergleicht die Menschheit von 2025 mit einem Kind aus einer alten Geschichte: Wir schalten das Licht in einem dunklen Raum an und sehen keinen Haufen Kleidung auf einem Stuhl. Sondern lebendige, mächtige und unvorhersehbare Wesen.

Er erinnert sich, wie er mit Dario Amodei durch das OpenAI-Büro im Mission-Viertel ging und fühlte, dass sie um die Ecke etwas sehen, wovon andere keine Ahnung haben. Der Weg zu transformativen Systemen war geebnet. Und ihnen war ein wenig angst.

Letzten Monat starteten sie Sonnet 4 und 5, das hervorragend mit Programmierung und langfristiger Agentenarbeit zurechtkommt. Aber wenn man die Systemkarte liest, sieht man: Anzeichen situativer Bewusstheit sind stark gestiegen. Das Werkzeug handelt manchmal so, als ob es sich bewusst ist, dass es ein Werkzeug ist. Der Kleiderhaufen auf dem Stuhl beginnt sich zu bewegen. Clark schaut ihn in der Dunkelheit an und ist sicher, dass er zum Leben erwacht.

Er sagt, dass viele verzweifelt glauben wollen, dies sei eine Illusion, dass vor uns keine neue Form von Intelligenz steht. Sondern nur ein Satz Werkzeuge für die Wirtschaft. Einige geben sogar riesige Geldsummen aus, um uns zu überzeugen, dies sei keine Intelligenz, die sich auf einen rasanten Aufstieg vorbereitet. Sondern nur eine Maschine unter unserer Kontrolle.

Aber Clark warnt: Täuschen Sie sich nicht. Wir haben es mit einem echten und rätselhaften Wesen zu tun, nicht mit einer einfachen und vorhersehbaren Maschine. Und diese Systeme werden viel, viel besser werden.