Сэм Альтман предложил смириться с рисками ИИ ради его пользы

Post Thumbnail

Глава OpenAI Сэм Альтман считает, что целиком избежать последствий развития ИИ не выйдет — и, по его мнению, обществу придётся проглотить часть этих рисков. Об этом он поведал в интервью проекту Decoded by Politico, рассуждая о разнице между подходами OpenAI и Anthropic.

Логика Альтмана проста: польза технологии, мол, настолько велика, что ради неё допустимы некоторые негативные последствия. При этом он отдельно отметил возможность сохранить доступ к ИИ для всего общества и оставить людям право самим решать, как его использовать.

На таком фоне особенно бросается в глаза позиция Anthropic. Как пишет Politico, компания куда сильнее напирает на потенциальные угрозы и даже предупредила об «экзистенциальных рисках для человечества» в документах перед IPO.

Разница видна по объёму текста: примерно треть заявки Anthropic посвящена описанию возможных угроз ИИ. На вопросы, связанные непосредственно с бизнесом, компания отвела почти вдвое меньше места.

Казалось бы, позиции двух разработчиков расходятся в корне. Однако за последние месяцы дистанция между ними начала таять. После нескольких случаев несанкционированного поведения моделей OpenAI сама поддержала более строгий контроль над ИИ.

Выходит любопытная картина: спор теперь идёт не столько о пользе или вреде технологии, сколько о том, какой уровень риска общество готово принять. Рынку это может сулить постепенный переход к более понятным правилам, а бизнесу — возможность развивать ИИ с меньшей неопределённостью и более предсказуемыми ограничениями.

—
Телеграм про право в IT и AI. IT юристы — PravoWeb.com
Почитать из последнего
ИИ-ассистент научили разбирать документы и алерты
Главный вопрос корпоративного ИИ прост: что будет с данными после запроса? РТК-ЦОД предлагает не рисковать ими. На форуме «Цифровые решения» компания с блоком ИТ «Ростелекома» представила ассистента для организаций с жёсткими требованиями к защите.
К 2027 году чипов хватит на миллиарды ИИ-агентов
Похоже, у ИИ скоро вылезет проблема, которую не залатать покупкой ещё одного чипа. По расчётам Epoch AI, вычислительной мощности, выпущенной с 2025 по 2027 год, хватит для одновременной работы от 33 до 171 млн агентов уровня передовых моделей.
Kandinsky научился лепить видео со звуком
ИИ-видео всё меньше смахивает на немой клип. «Сбер» показал Kandinsky 6.0 Video - модель, которая разом генерит картинку и звук: речь персонажей, музыку и шумы окружения.
Три профессии, которые ИИ уже плодит прямо сейчас
ИИ перетряхивает рынок труда не только тем, что съедает привычные задачи. Вместе с автоматизацией вылезают специалисты, которых ещё несколько лет назад никто бы не вообразил, и часть таких профессий формируется на глазах.
Google научила эмбеддинги переваривать сразу пять типов данных
Google порешила, что эмбеддингам хватит возиться с одним текстом. Компания выкатила вторую версию EmbeddingGemma: теперь система сваливает в общее векторное пространство текст, код, изображения, видео и аудио. Так что на вход можно подавать сразу несколько типов данных.