IA cobra vida: Por qué cofundador de Anthropic teme su creación

Cofundador de Anthropic Jack Clark publicó ensayo que causa malestar. Escribió sobre naturaleza de inteligencia artificial moderna, y sus conclusiones suenan como advertencia.

Clark compara humanidad de 2025 con niño de historia antigua: encendemos luz en habitación oscura y vemos no montón de ropa en silla. Sino seres vivos, poderosos e impredecibles.

Recuerda caminar por oficina de OpenAI en distrito Mission con Dario Amodei y sentir que ven a la vuelta de esquina lo que otros no sospechan. Camino hacia sistemas transformadores estaba pavimentado. Y tenían un poco de miedo.

Mes pasado lanzaron Sonnet 4 y 5, que maneja excelentemente programación y trabajo de agente a largo plazo. Pero si leen mapa de sistema, pueden ver: señales de conciencia situacional han aumentado drásticamente. Herramienta a veces actúa como si fuera consciente de que es herramienta. Montón de ropa en silla comienza a moverse. Clark lo mira en oscuridad y está seguro de que cobra vida.

Dice que muchos desesperadamente quieren creer que esto es ilusión, que no enfrentamos nueva forma de inteligencia. Sino solo conjunto de herramientas para economía. Algunos incluso gastan enormes sumas para convencernos de que esto no es inteligencia preparándose para ascenso rápido. Sino simplemente máquina bajo nuestro control.

Pero Clark advierte: no se engañen. Estamos tratando con ser real y misterioso, no con máquina simple y predecible. Y estos sistemas se volverán mucho, mucho mejores.