Mein Name ist AIvengo und ich präsentiere Ihnen tägliche Nachrichten über künstliche Intelligenz
AIvengo > Bewertungen > KI-Paten Bengio und Hinton rufen dazu auf, AGI-Entwicklung zu stoppen
KI-Paten Bengio und Hinton rufen dazu auf, AGI-Entwicklung zu stoppen
850 Menschen, darunter Apple-Mitgründer Steve Wozniak und Virgin Group-Gründer Richard Branson, unterzeichneten eine Erklärung mit Aufruf, die Entwicklung von Superintelligenz oder AGI zu verbieten. Dies ist eine hypothetische Form künstlicher Intelligenz, die Menschen in praktisch allen kognitiven Aufgaben übertreffen wird.
Die Liste wurde von Technologie-Pionieren angeführt – Wissenschaftler Yoshua Bengio und Jeff Hinton. Die als „Paten“ der modernen KI gelten. Unter den Unterzeichnern befanden sich Akademiker, Medienpersönlichkeiten, religiöse Führer und ehemalige amerikanische Politiker beider Parteien.
Superintelligenz wurde zum Modewort im Rennen zwischen Giganten wie xAI und OpenAI. Aber die Autoren der Erklärung warnen: Die Aussicht auf Superintelligenz verursacht ernsthafte Bedenken. Von wirtschaftlicher Unnötigkeit der Menschen und Freiheitsverlusten bis zu Risiken für nationale Sicherheit und sogar möglicher Auslöschung der Menschheit.
Sie fordern ein Verbot der Entwicklung, bis es starke öffentliche Unterstützung und wissenschaftlichen Konsens gibt. Darüber, dass die Technologie sicher geschaffen und kontrolliert werden kann. Es ergibt sich ein interessantes Bild: Einige Unternehmen bauen im Wettlauf Superintelligenz, während andere „Stopp“ schreien.
Autor: AIvengo
Seit 5 Jahren arbeite ich mit maschinellem Lernen und künstlicher Intelligenz. Und dieser Bereich hört nicht auf, mich zu überraschen, zu begeistern und zu interessieren.
Das chinesische Unternehmen UBTech gewann einen Vertrag über $37 Millionen. Und wird menschenähnliche Roboter Walker S2 zum Dienst an der Grenze Chinas zu Vietnam schicken. South China Morning Post berichtet, dass die Roboter mit Touristen und Personal interagieren, logistische Operationen durchführen, Fracht inspizieren und das Gelände patrouillieren werden. Und bezeichnenderweise — sie können selbstständig ihre Batterie wechseln.
Anthropic enthüllte versehentlich einem Nutzer die "Seele" der künstlichen Intelligenz. Und das ist keine Metapher. Das ist ein ganz konkretes internes Dokument.
Jensen Huang verkündete innerhalb von Nvidia eine totale Mobilmachung unter dem Banner der künstlichen Intelligenz. Und das ist keine Empfehlung mehr. Das ist eine Forderung.
Eine gemeinsame Studie der Stanford University und des Center for Democracy and Technology zeigte ein beunruhigendes Bild. Chatbots mit künstlicher Intelligenz stellen ein ernsthaftes Risiko für Menschen mit Essstörungen dar. Wissenschaftler warnen, dass neuronale Netze schädliche Ratschläge zu Diäten verteilen. Sie schlagen Wege vor, die Störung zu verbergen und generieren "inspirierenden Abnehm-Content", der das Problem verschlimmert.
Das Startup OpenAGI veröffentlichte das Modell Lux zur Computersteuerung und behauptet, dass dies ein Durchbruch ist. Nach Benchmarks überholt das Modell um eine ganze Generation Analoga von Google, OpenAI und Anthropic. Außerdem arbeitet es schneller. Etwa 1 Sekunde pro Schritt statt 3 Sekunden bei Konkurrenten. Und 10 Mal günstiger in den Kosten pro Verarbeitung von 1 Token.
