OpenAI увольняет экспертов по безопасности и сокращает тесты до дней

Тревожные перемены в OpenAI. Там проводят увольнение инженеров, отвечающих за защиту от утечек, краж данных и других критически важных угроз.

И что интересно, OpenAI увольняет опытных специалистов и набирает новых сотрудников на их места. Официальное объяснение звучит размыто, цитирую — «компания выросла и теперь сталкивается с угрозами другого уровня».

Но это лишь верхушка айсберга в компании! Параллельно происходит беспрецедентное ускорение выпуска продуктов за счёт игнорирования собственных процедур тестирования безопасности. Если раньше проверка моделей занимала месяцы тщательного анализа, то сейчас сроки сжаты до нескольких дней.

Наиболее тревожный индикатор — изменение подхода к финальным версиям моделей. Конечные чекпоинты могут вообще не проходить проверку, а тестированию подвергаются только промежуточные версии. При этом почти все тесты автоматизированы. Что фактически означает отсутствие человеческого надзора над потенциально опасными аспектами искусственного интеллекта.

Напоминает старый анекдот. Сотрудник говорит начальнику: У нас дыра в безопасности. А начальник ему отвечает — Слава богу, хоть что-то у нас в безопасности.