Padre del aprendizaje por refuerzo predijo fin de era de grandes modelos de lenguaje

Richard Sutton – este es uno de padres del aprendizaje por refuerzo y laureado del premio Turing. Así que declaró que era de grandes modelos de lenguaje está llegando a su fin. Siguiente, en su opinión, viene era de experiencia. Y aquí está por qué piensa así.

En su opinión, grandes modelos de lenguaje son callejón sin salida. Inteligencia real debería aprender de experiencia, no de datos. Y redes neuronales modernas – esto es solo imitación de inteligencia. No tienen experiencia, no realizan acciones y no reciben retroalimentación de realidad. Por lo tanto no son capaces de cognición real.

Según Sutton, humanidad está creando nueva forma de vida basada en diseño, no en reproducción biológica. Y estamos siendo testigos de transición de mundo donde todo se copia a mundo donde todo se diseña.

Seres vivos son replicadores, y IA son diseñadores, explica. Podemos crear sistemas que crearán otros sistemas, y todo esto a través de construcción, no copia. Según él, esta es nueva etapa de evolución del Universo.

Resulta que Sutton ve boom actual de grandes modelos de lenguaje como fenómeno temporal. Verdadero avance, en su opinión, ocurrirá cuando sistemas de IA comiencen a aprender a través de interacción con realidad, recibiendo retroalimentación de sus acciones. No a través de consumir terabytes de texto, sino a través de experiencia real. Como hacen seres vivos.

Ahí tienen visión de uno de fundadores del aprendizaje automático moderno sobre futuro de tecnología. Resulta que grandes modelos de lenguaje no son final, sino meramente etapa intermedia.