DeepMind открыла институт для изучения AGI

Google DeepMind занялась не только возможностями будущего AGI, но и проблемами, которые приедут вместе с ним. Запущен DeepMind Institute, где исследователи займутся безопасностью таких систем, их влиянием на общество, кибер- и биорисками, а также угрозой потери контроля над самообучающимся ИИ.

Во главе встали сооснователь DeepMind и главный научный сотрудник по AGI Шейн Легг, президент исследовательских направлений Google и Google DeepMind Джеймс Маника и председатель совета Google DeepMind Демис Хассабис. Легг заодно стал выпускающим редактором площадки.

DMI задумана как площадка для научных публикаций. Писать смогут не только свои специалисты из Google и DeepMind, но и исследователи со всего мира. Четыре работы уже выложены, одну из них подготовил Хассабис.

В своей статье он предлагает ввести сертификацию ИИ-моделей. Поначалу дело может быть добровольным, потом обязательным, а критерии оценки лаборатории должны выработать сообща. Дальше, по мысли Хассабиса, независимая организация станет проводить собственные закрытые тесты — чтобы разработчики не могли заранее подгонять модели под известные испытания.

Это укладывается в более широкие прогнозы главы DeepMind. В июле Хассабис заявил, что полноценный AGI может появиться уже через несколько лет, а последствия окажутся куда масштабнее прежних технологических революций и развернутся гораздо быстрее.

По сути, DeepMind пытается написать правила игры до того, как появится сама игра. Помогут исследования заранее нащупать риски и способы проверки ИИ — у компаний и регуляторов будет больше инструментов, чтобы развивать технологию без лишней беспечности.

—

Телеграм про право в IT и AI. IT юристы — PravoWeb.com