OpenAI ищет человека, который будет предотвращать апокалипсис от ИИ

Post Thumbnail

OpenAI открыла вакансию Head of Preparedness. Главная идея роли: понимать, где ИИ может пойти не туда. Предотвращать злоупотребления, усиливать защиту кибербезопасности и закладывать правила для систем, которые умеют самоулучшаться.

Звучит как объявление о найме пожарного на атомную электростанцию, где реактор уже начал плавиться. Это напряжённая и очень ответственная работа: мало примеров, много неизвестного. Но и высокий уровень влияния на решения. Меня удивляет, что не взяли человека изнутри, кто хорошо знает специфику т уже в теме.

По сути, задача проста по формулировке и сложна на практике: как развивать мощный искусственный интеллект и не дать ему причинить вред. Сэм Альтман написал, цитирую: «Если вы хотите помочь миру выяснить, как дать защитникам кибербезопасности передовые возможности и даже получить уверенность в безопасности систем, которые могут самоулучшаться — подавайте заявку».

Описание вакансии гласит, что роль ответственна за выполнение так называемой preparedness framework. Структуры, объясняющей подход OpenAI к отслеживанию и подготовке к передовым возможностям, которые создают новые риски серьёзного вреда.

Получается, OpenAI стремительно строит всё более мощные модели, которые могут самоулучшаться и обладают передовыми возможностями. И одновременно ищет человека, который будет придумывать, как от этих моделей защититься.

Head of Preparedness, OpenAI, Вакансия, Сэм Альтман
AIvengo > Новости ИИ > OpenAI ищет человека, который будет предотвращать апокалипсис от ИИ
Почитать из последнего
В Китае открыли школу, где гуманоидов учат как на уроках труда
В Китае заработал учебный центр для гуманоидов. И это выглядит как издевательство над понятием "быстрое обучение". 2 этажа с воссозданными производственными линиями и домашними интерьерами. Роботы учатся сортировать катушки, упаковывать посылки, готовить еду и убирать спальню. Как на уроках труда, только дороже.
Глава Microsoft AI предупредил, что борьба за ИИ обойдётся в сотни миллиардов
Гендиректор Microsoft по ИИ Мустафа Сулейман, выдал заявление, от которого у стартапов должна отвиснуть челюсть. По его словам, для конкуренции на переднем крае искусственного интеллекта в ближайшие 5-10 лет потребуется сотни миллиардов долларов. Не миллионов. Не 10 миллиардов. Сотни миллиардов. Вот вам и входной билет в эту весёлую игру.
YouTube запустил инструмент для генерации игр через промпты на Gemini 3
YouTube Gaming запустила закрытое бета-тестирование сервиса Playables Builder. И вот вам очередной гвоздь в крышку гроба традиционной геймдев-индустрии. Инструмент позволяет авторам создавать мини-игры на основе промптов. Система работает на базе Gemini 3: чтобы превратить идею в рабочий интерактивный проект, достаточно загрузить короткое текстовое описание, видеофрагмент или изображение.
Нейросети генерируют код с проблемами намного чаще людей-программистов
Платформа AI-ревью кода CodeRabbit опубликовала отчёт State of AI vs Human Code Generation. И вот вам суровая правда. Ассистенты на ИИ стали массовым инструментом, но сгенерированный ими код содержит в среднем в 1,5 раза больше проблем, чем человеческий. Исследование основано на анализе 470 реальных pull request'ов из открытых проектов на GitHub. 320 с участием искусственного интеллекта и 150 написанных только людьми.
Гуманоид повторил легендарную сцену, где продавец бесит покупателя упаковкой
Кто смотрел фильм "Реальная любовь", тот помнит сцену: персонаж Роуэна Аткинсона упаковывает подарок с такой въедливой тщательностью, что покупатель буквально сходит с ума от нетерпения. Звёздочки, шишки, ленточки — каждый элемент добавляется с невозмутимым спокойствием, пока клиент не готов убить продавца.