OpenAI предложила ввести единые мировые правила безопасности ИИ

OpenAI призвала США встать во главе международной коалиции, которая выработает общие стандарты безопасности ИИ. Компания хочет наладить между странами безопасный обмен данными об угрозах и ввести единые правила оценки передовых моделей.

Отдельно OpenAI выделила ИИ со способностью к рекурсивному самосовершенствованию (RSI). В компании заявили, что полностью автономных RSI-систем пока нет, и считают, что им не стоит появляться до подтверждения безопасности и сохранения человеческого контроля.

OpenAI также предложила взять пример с авиации и финансовой системы, где международные стандарты и каналы обмена информацией позволяют сотрудничать, не отказываясь от государственного суверенитета. Важным компания назвала и диалог по безопасности ИИ между США и Китаем.

Инициатива вышла перед выступлением Сэма Альтмана в Совете безопасности ООН и встречей Дональда Трампа с Си Цзиньпином. При этом Вашингтон пока не готов тормозить развитие ИИ. Советник Трампа Дэвид Сакс заявил, что такие ограничения могут ослабить позиции США в конкуренции с Китаем.

Идею международных стандартов поддержал глава Google DeepMind Демис Хассабис. Он предложил создать частно-государственный орган с участием технических экспертов и представителей open source. По его оценке, ИИ повлияет на человечество в десять раз сильнее промышленной революции, но изменения произойдут в десять раз быстрее.

Anthropic meanwhile ратует за добровольное замедление разработки и внешний аудит безопасности передовых моделей. Так что спор идёт уже не только о мощности ИИ, но и о правилах, которые определят границы его развития.

—

Телеграм про право в IT и AI. IT юристы — PravoWeb.com