Mein Name ist AIvengo und ich präsentiere Ihnen tägliche Nachrichten über künstliche Intelligenz
AIvengo > Bewertungen > OpenAI entlässt Sicherheitsexperten und kürzt Tests auf Tage
OpenAI entlässt Sicherheitsexperten und kürzt Tests auf Tage
Beunruhigende Veränderungen bei OpenAI. Dort werden Ingenieure entlassen, die für Schutz vor Lecks, Datendiebstahl und anderen kritisch wichtigen Bedrohungen verantwortlich sind.
Und interessant ist, dass OpenAI erfahrene Spezialisten entlässt und neue Mitarbeiter an deren Stelle einstellt. Die offizielle Erklärung klingt vage, ich zitiere – “das Unternehmen ist gewachsen und steht nun Bedrohungen auf anderem Niveau gegenüber”.
Aber das ist nur die Spitze des Eisbergs im Unternehmen! Parallel dazu findet eine beispiellose Beschleunigung der Produktfreigaben auf Kosten der Ignorierung eigener Sicherheitstestverfahren statt. Wenn früher die Überprüfung von Modellen monatelange sorgfältige Analyse dauerte, sind jetzt die Fristen auf wenige Tage komprimiert.
Der beunruhigendste Indikator ist die Änderung des Ansatzes bei finalen Modellversionen. End-Checkpoints können überhaupt keine Überprüfung durchlaufen, und nur Zwischenversionen werden getestet. Dabei sind fast alle Tests automatisiert. Was faktisch die Abwesenheit menschlicher Aufsicht über potenziell gefährliche Aspekte künstlicher Intelligenz bedeutet.
Erinnert an einen alten Witz. Ein Mitarbeiter sagt zum Chef: Wir haben ein Loch in der Sicherheit. Und der Chef antwortet ihm – Gott sei Dank, wenigstens etwas ist bei uns in Sicherheit.
Autor: AIvengo
Seit 5 Jahren arbeite ich mit maschinellem Lernen und künstlicher Intelligenz. Und dieser Bereich hört nicht auf, mich zu überraschen, zu begeistern und zu interessieren.
Eine gemeinsame Studie der Stanford University und des Center for Democracy and Technology zeigte ein beunruhigendes Bild. Chatbots mit künstlicher Intelligenz stellen ein ernsthaftes Risiko für Menschen mit Essstörungen dar. Wissenschaftler warnen, dass neuronale Netze schädliche Ratschläge zu Diäten verteilen. Sie schlagen Wege vor, die Störung zu verbergen und generieren "inspirierenden Abnehm-Content", der das Problem verschlimmert.
Das Startup OpenAGI veröffentlichte das Modell Lux zur Computersteuerung und behauptet, dass dies ein Durchbruch ist. Nach Benchmarks überholt das Modell um eine ganze Generation Analoga von Google, OpenAI und Anthropic. Außerdem arbeitet es schneller. Etwa 1 Sekunde pro Schritt statt 3 Sekunden bei Konkurrenten. Und 10 Mal günstiger in den Kosten pro Verarbeitung von 1 Token.
Sam Altman rief bei OpenAI "rote Alarmstufe" aus, und das ist nicht nur ein Firmendrama. Das ist ein Eingeständnis, dass der Marktführer den Atem der Konkurrenten im Nacken spürte. Laut einer internen Dienstnotiz mobilisiert er zusätzliche Ressourcen zur Verbesserung von ChatGPT angesichts der wachsenden Bedrohung durch Google.
Viele Unternehmen begannen, wegen künstlicher Intelligenz entlassene Mitarbeiter zurückzuholen. Die Analysegesellschaft Visier untersuchte Beschäftigungsdaten von 2,5 Millionen Mitarbeitern aus 142 Unternehmen weltweit. Etwa 5% der entlassenen Mitarbeiter kehrten anschließend zum vorherigen Arbeitgeber zurück. Dieser Indikator blieb mehrere Jahre stabil, begann aber kürzlich zu steigen.
