Альтман разочаровался в AGI и предлагает суперинтеллект

Сэм Альтман разочаровался в термине AGI. И на этот раз глава OpenAI предложил новую цель — суперинтеллект.

Альтман объяснил проблему. AGI — расплывчатый термин. Каждый вкладывает в него своё. Одни называют AGI уже существующие модели, другие отодвигают планку на годы вперёд. Получается не обсуждение возможностей систем, а бесконечный спор о ярлыках.

И попытки измерить прогресс через тесты вроде IQ только усугубляют ситуацию. Альтман говорит, что такие показатели отражают лишь «сырую вычислительную мощность», но не дают целостного понимания способностей системы. Часть исследователей уже относит текущие модели к AGI — мол, они делают небольшие самостоятельные шаги в научных задачах. Путаница растёт.

Что реально не хватает современным системам? Альтман называет способность к непрерывному самообучению. Когда система сама распознаёт пробел в знаниях, закрывает его и возвращается улучшенной. Как дети — каждый день умеют больше, чем вчера.

Вместо споров об AGI Альтман предлагает фокус на суперинтеллект. И определить его чётче заранее, чтобы не повторять ту же ошибку. Он допускает, что границу AGI мир пересечёт незаметно, без переломного момента. Поэтому важно договориться о критериях следующего уровня уже сейчас.

Его критерий суперинтеллекта — это система справляется лучше любого человека — даже усиленного ИИ. С задачами уровня руководителей государств, крупных компаний, больших научных организаций. И сначала связка «человек плюс ИИ» сильнее. А потом человек становится ограничением.