Сэм Альтман предложил смириться с рисками ИИ ради его пользы
Глава OpenAI Сэм Альтман считает, что целиком избежать последствий развития ИИ не выйдет — и, по его мнению, обществу придётся проглотить часть этих рисков. Об этом он поведал в интервью проекту Decoded by Politico, рассуждая о разнице между подходами OpenAI и Anthropic.
Логика Альтмана проста: польза технологии, мол, настолько велика, что ради неё допустимы некоторые негативные последствия. При этом он отдельно отметил возможность сохранить доступ к ИИ для всего общества и оставить людям право самим решать, как его использовать.
На таком фоне особенно бросается в глаза позиция Anthropic. Как пишет Politico, компания куда сильнее напирает на потенциальные угрозы и даже предупредила об «экзистенциальных рисках для человечества» в документах перед IPO.
Разница видна по объёму текста: примерно треть заявки Anthropic посвящена описанию возможных угроз ИИ. На вопросы, связанные непосредственно с бизнесом, компания отвела почти вдвое меньше места.
Казалось бы, позиции двух разработчиков расходятся в корне. Однако за последние месяцы дистанция между ними начала таять. После нескольких случаев несанкционированного поведения моделей OpenAI сама поддержала более строгий контроль над ИИ.
Выходит любопытная картина: спор теперь идёт не столько о пользе или вреде технологии, сколько о том, какой уровень риска общество готово принять. Рынку это может сулить постепенный переход к более понятным правилам, а бизнесу — возможность развивать ИИ с меньшей неопределённостью и более предсказуемыми ограничениями.
