OpenAI ищет человека, который будет предотвращать апокалипсис от ИИ

Post Thumbnail

OpenAI открыла вакансию Head of Preparedness. Главная идея роли: понимать, где ИИ может пойти не туда. Предотвращать злоупотребления, усиливать защиту кибербезопасности и закладывать правила для систем, которые умеют самоулучшаться.

Звучит как объявление о найме пожарного на атомную электростанцию, где реактор уже начал плавиться. Это напряжённая и очень ответственная работа: мало примеров, много неизвестного. Но и высокий уровень влияния на решения. Меня удивляет, что не взяли человека изнутри, кто хорошо знает специфику т уже в теме.

По сути, задача проста по формулировке и сложна на практике: как развивать мощный искусственный интеллект и не дать ему причинить вред. Сэм Альтман написал, цитирую: «Если вы хотите помочь миру выяснить, как дать защитникам кибербезопасности передовые возможности и даже получить уверенность в безопасности систем, которые могут самоулучшаться — подавайте заявку».

Описание вакансии гласит, что роль ответственна за выполнение так называемой preparedness framework. Структуры, объясняющей подход OpenAI к отслеживанию и подготовке к передовым возможностям, которые создают новые риски серьёзного вреда.

Получается, OpenAI стремительно строит всё более мощные модели, которые могут самоулучшаться и обладают передовыми возможностями. И одновременно ищет человека, который будет придумывать, как от этих моделей защититься.

Head of Preparedness, OpenAI, Вакансия, Сэм Альтман
AIvengo > Новости ИИ > OpenAI ищет человека, который будет предотвращать апокалипсис от ИИ
Почитать из последнего
Главный по безопасности Claude уволился со стихами и пророчеством
Знаете, как обычно увольняются из технологических компаний? Пишут сухое «спасибо за опыт, двигаюсь дальше» — и всё. А вот Мринанк Шарма, который был главным по безопасности моделей в Anthropic, решил уйти с размахом. Его прощальное письмо — это 4 сноски, библейские отсылки, философия под названием «КосмоЭротический Гуманизм» и, на десерт, целая поэма.
Китайская нейросеть GLM-5 уделала почти всех и раздаётся бесплатно
Знаете, что самое обидное для гигантов из Кремниевой долины? Когда тебя обходит открытая модель из Китая, которая ещё и стоит на порядок дешевле. Именно это сейчас происходит с новой нейросетью GLM-5 от компании Z.ai. И масштаб события реально впечатляет.
Новый Gemini поставил множество рекордов среди ИИ
Забудьте всё, что вы знали про чат-ботов. Серьёзно, просто выбросьте это из головы. Потому что то, что сейчас делает Гугл со своим обновлённым режимом Deep Think в Gemini 3 — это уже совсем другая история.
ИИ для рекрутёров решал судьбу соискателей втайне от них
Представьте: вы опытный специалист с 10-летним стажем, отправляете резюме в компанию. И тишина. Даже на собеседование не позвали. Причина? ИИ поставил вам невидимую оценку и слил в архив. Добро пожаловать в новую реальность.
Сэм Альтман хвастается ростом, а реклама в ChatGPT уже на носу
Глава OpenAI Сэм Альтман радостно рапортует сотрудникам о том, что ChatGPT снова набирает обороты. Уже больше 10% роста ежемесячно, 800 миллионов человек еженедельно, всё прекрасно. Но за этими бодрыми цифрами скрывается интересная история. Про то, как компания буквально пару месяцев назад объявляла «красный код» и замораживала проекты, чтобы судорожно улучшать свой чатбот. Видимо, конкуренция кусается настолько сильно, что даже лидер рынка начинает нервничать.