OpenAI предложила ввести единые мировые правила безопасности ИИ

Post Thumbnail

OpenAI призвала США встать во главе международной коалиции, которая выработает общие стандарты безопасности ИИ. Компания хочет наладить между странами безопасный обмен данными об угрозах и ввести единые правила оценки передовых моделей.

Отдельно OpenAI выделила ИИ со способностью к рекурсивному самосовершенствованию (RSI). В компании заявили, что полностью автономных RSI-систем пока нет, и считают, что им не стоит появляться до подтверждения безопасности и сохранения человеческого контроля.

OpenAI также предложила взять пример с авиации и финансовой системы, где международные стандарты и каналы обмена информацией позволяют сотрудничать, не отказываясь от государственного суверенитета. Важным компания назвала и диалог по безопасности ИИ между США и Китаем.

Инициатива вышла перед выступлением Сэма Альтмана в Совете безопасности ООН и встречей Дональда Трампа с Си Цзиньпином. При этом Вашингтон пока не готов тормозить развитие ИИ. Советник Трампа Дэвид Сакс заявил, что такие ограничения могут ослабить позиции США в конкуренции с Китаем.

Идею международных стандартов поддержал глава Google DeepMind Демис Хассабис. Он предложил создать частно-государственный орган с участием технических экспертов и представителей open source. По его оценке, ИИ повлияет на человечество в десять раз сильнее промышленной революции, но изменения произойдут в десять раз быстрее.

Anthropic meanwhile ратует за добровольное замедление разработки и внешний аудит безопасности передовых моделей. Так что спор идёт уже не только о мощности ИИ, но и о правилах, которые определят границы его развития.

—

Телеграм про право в IT и AI. IT юристы — PravoWeb.com

Почитать из последнего
ИИ-ассистент научили разбирать документы и алерты
Главный вопрос корпоративного ИИ прост: что будет с данными после запроса? РТК-ЦОД предлагает не рисковать ими. На форуме «Цифровые решения» компания с блоком ИТ «Ростелекома» представила ассистента для организаций с жёсткими требованиями к защите.
К 2027 году чипов хватит на миллиарды ИИ-агентов
Похоже, у ИИ скоро вылезет проблема, которую не залатать покупкой ещё одного чипа. По расчётам Epoch AI, вычислительной мощности, выпущенной с 2025 по 2027 год, хватит для одновременной работы от 33 до 171 млн агентов уровня передовых моделей.
Kandinsky научился лепить видео со звуком
ИИ-видео всё меньше смахивает на немой клип. «Сбер» показал Kandinsky 6.0 Video - модель, которая разом генерит картинку и звук: речь персонажей, музыку и шумы окружения.
Три профессии, которые ИИ уже плодит прямо сейчас
ИИ перетряхивает рынок труда не только тем, что съедает привычные задачи. Вместе с автоматизацией вылезают специалисты, которых ещё несколько лет назад никто бы не вообразил, и часть таких профессий формируется на глазах.
Google научила эмбеддинги переваривать сразу пять типов данных
Google порешила, что эмбеддингам хватит возиться с одним текстом. Компания выкатила вторую версию EmbeddingGemma: теперь система сваливает в общее векторное пространство текст, код, изображения, видео и аудио. Так что на вход можно подавать сразу несколько типов данных.