Крёстные отцы ИИ Бенджио и Хинтон призывают остановить разработку AGI

850 человек, включая сооснователя Apple Стива Возняка и основателя Virgin Group Ричарда Брэнсона, подписали заявление с призывом запретить разработку суперинтеллекта или AGI. Это гипотетическая форма искусственного интеллекта, которая превзойдёт человека практически во всех когнитивных задачах.

Список возглавили пионеры технологий – учёные Йошуа Бенджио и Джефф Хинтон. Которых считают «крёстными отцами» современного искусственного интеллекта. Среди подписантов оказались академики, медийные личности, религиозные лидеры и бывшие американские политики обеих партий.

Суперинтеллект стал модным словом в гонке между гигантами вроде xAI и OpenAI. Но авторы заявления предупреждают: перспектива суперинтеллекта вызывает серьёзные опасения. От экономической ненужности людей и потери свобод до рисков для национальной безопасности и даже возможного вымирания человечества.

Они требуют запретить разработку до тех пор, пока не будет сильной общественной поддержки и научного консенсуса. О том, что технологию можно создать и контролировать безопасно. Получается интересная картина: одни компании наперегонки строят суперинтеллект, а другие кричат «стоп».