Vater des Reinforcement Learning prophezeite Ende der Ära großer Sprachmodelle
Richard Sutton – das ist einer der Väter des Reinforcement Learning und Turing-Award-Preisträger. Nun hat er erklärt, dass die Ära der großen Sprachmodelle zu Ende geht. Danach kommt seiner Meinung nach die Ära der Erfahrung. Und hier ist, warum er das so denkt.
Seiner Meinung nach sind große Sprachmodelle eine Sackgasse. Echte Intelligenz sollte aus Erfahrung lernen, nicht aus Daten. Und moderne neuronale Netze – das ist nur Imitation von Intelligenz. Sie haben keine Erfahrung, führen keine Handlungen aus und erhalten kein Feedback von der Realität. Deshalb sind sie nicht zu echter Erkenntnis fähig.
Nach Suttons Meinung erschafft die Menschheit eine neue Lebensform, die auf Design basiert, nicht auf biologischer Reproduktion. Und wir werden Zeugen des Übergangs von einer Welt, in der alles kopiert wird, zu einer Welt, in der alles entworfen wird.
Lebewesen sind Replikatoren, und KI sind Designer, erklärt er. Wir können Systeme schaffen, die andere Systeme schaffen werden, und all das durch Konstruktion, nicht durch Kopieren. Seinen Worten nach ist dies eine neue Etappe der Evolution des Universums.
Es stellt sich heraus, dass Sutton den aktuellen Boom großer Sprachmodelle als vorübergehendes Phänomen betrachtet. Der wahre Durchbruch wird seiner Meinung nach dann geschehen, wenn KI-Systeme beginnen, durch Interaktion mit der Realität zu lernen und Feedback von ihren Handlungen zu erhalten. Nicht durch Verschlingen von Terabytes Text, sondern durch echte Erfahrung. So wie es Lebewesen tun.
Da haben Sie die Sicht eines der Begründer des modernen maschinellen Lernens auf die Zukunft der Technologie. Es stellt sich heraus, dass große Sprachmodelle nicht das Finale sind, sondern nur eine Zwischenetappe.
