Mein Name ist AIvengo und ich präsentiere Ihnen tägliche Nachrichten über künstliche Intelligenz
AIvengo > Bewertungen > Wissenschaftler haben mehr Angst vor KI-Halluzinationen bekommen
Wissenschaftler haben mehr Angst vor KI-Halluzinationen bekommen
Je mehr Wissenschaftler mit künstlicher Intelligenz arbeiten, desto weniger vertrauen sie ihr. Der akademische Verlag Wiley veröffentlichte einen vorläufigen Bericht für 2025 über den Einfluss von Technologien auf die Wissenschaft, und die Schlussfolgerungen dort sind paradox. Forscher begannen, neuronale Netze mit größerer Skepsis zu betrachten als vor einem Jahr, als die Technologie offensichtlich weniger entwickelt war.
Schauen wir uns die Zahlen an. In der Umfrage 2024 machten sich 51% der befragten Wissenschaftler Sorgen über Halluzinationen. Das ist, wenn große Sprachmodelle fabrizierte Informationen als Wahrheit ausgeben. Und was geschah nach einem Jahr, als neuronale Netze mächtiger wurden? Diese Zahl stieg auf 64%! Dabei ist die Nutzung von KI unter Forschern von 45% auf 62% gestiegen.
Und dann wird es noch interessanter. 2024 glaubten über 50% der Wissenschaftler, dass KI bereits menschliche Fähigkeiten übertrifft. Und 2025 brach dieser Glaube auf 30% ein. Da haben Sie die Realität nach dem Hype.
Und diese Daten stimmen mit früheren Studien überein, die sagen: Je mehr Menschen darüber erfahren, wie KI funktioniert, desto weniger vertrauen sie ihr. Und Bekanntschaft erzeugt Misstrauen.
Ich liebe künstliche Intelligenz. Aber da ich lange mit ihr arbeite – kenne ich ihre Grenzen. Und idealisiere sie nicht. Das ist – einfach ein fantastisches Werkzeug. Aber es erfordert geschickte Hände.
Autor: AIvengo
Seit 5 Jahren arbeite ich mit maschinellem Lernen und künstlicher Intelligenz. Und dieser Bereich hört nicht auf, mich zu überraschen, zu begeistern und zu interessieren.
Das chinesische Unternehmen UBTech gewann einen Vertrag über $37 Millionen. Und wird menschenähnliche Roboter Walker S2 zum Dienst an der Grenze Chinas zu Vietnam schicken. South China Morning Post berichtet, dass die Roboter mit Touristen und Personal interagieren, logistische Operationen durchführen, Fracht inspizieren und das Gelände patrouillieren werden. Und bezeichnenderweise — sie können selbstständig ihre Batterie wechseln.
Anthropic enthüllte versehentlich einem Nutzer die "Seele" der künstlichen Intelligenz. Und das ist keine Metapher. Das ist ein ganz konkretes internes Dokument.
Jensen Huang verkündete innerhalb von Nvidia eine totale Mobilmachung unter dem Banner der künstlichen Intelligenz. Und das ist keine Empfehlung mehr. Das ist eine Forderung.
Eine gemeinsame Studie der Stanford University und des Center for Democracy and Technology zeigte ein beunruhigendes Bild. Chatbots mit künstlicher Intelligenz stellen ein ernsthaftes Risiko für Menschen mit Essstörungen dar. Wissenschaftler warnen, dass neuronale Netze schädliche Ratschläge zu Diäten verteilen. Sie schlagen Wege vor, die Störung zu verbergen und generieren "inspirierenden Abnehm-Content", der das Problem verschlimmert.
Das Startup OpenAGI veröffentlichte das Modell Lux zur Computersteuerung und behauptet, dass dies ein Durchbruch ist. Nach Benchmarks überholt das Modell um eine ganze Generation Analoga von Google, OpenAI und Anthropic. Außerdem arbeitet es schneller. Etwa 1 Sekunde pro Schritt statt 3 Sekunden bei Konkurrenten. Und 10 Mal günstiger in den Kosten pro Verarbeitung von 1 Token.
