DeepMind открыла институт для изучения AGI

Post Thumbnail

Google DeepMind занялась не только возможностями будущего AGI, но и проблемами, которые приедут вместе с ним. Запущен DeepMind Institute, где исследователи займутся безопасностью таких систем, их влиянием на общество, кибер- и биорисками, а также угрозой потери контроля над самообучающимся ИИ.

Во главе встали сооснователь DeepMind и главный научный сотрудник по AGI Шейн Легг, президент исследовательских направлений Google и Google DeepMind Джеймс Маника и председатель совета Google DeepMind Демис Хассабис. Легг заодно стал выпускающим редактором площадки.

DMI задумана как площадка для научных публикаций. Писать смогут не только свои специалисты из Google и DeepMind, но и исследователи со всего мира. Четыре работы уже выложены, одну из них подготовил Хассабис.

В своей статье он предлагает ввести сертификацию ИИ-моделей. Поначалу дело может быть добровольным, потом обязательным, а критерии оценки лаборатории должны выработать сообща. Дальше, по мысли Хассабиса, независимая организация станет проводить собственные закрытые тесты — чтобы разработчики не могли заранее подгонять модели под известные испытания.

Это укладывается в более широкие прогнозы главы DeepMind. В июле Хассабис заявил, что полноценный AGI может появиться уже через несколько лет, а последствия окажутся куда масштабнее прежних технологических революций и развернутся гораздо быстрее.

По сути, DeepMind пытается написать правила игры до того, как появится сама игра. Помогут исследования заранее нащупать риски и способы проверки ИИ — у компаний и регуляторов будет больше инструментов, чтобы развивать технологию без лишней беспечности.

—

Телеграм про право в IT и AI. IT юристы — PravoWeb.com

Почитать из последнего
ИИ-ассистент научили разбирать документы и алерты
Главный вопрос корпоративного ИИ прост: что будет с данными после запроса? РТК-ЦОД предлагает не рисковать ими. На форуме «Цифровые решения» компания с блоком ИТ «Ростелекома» представила ассистента для организаций с жёсткими требованиями к защите.
К 2027 году чипов хватит на миллиарды ИИ-агентов
Похоже, у ИИ скоро вылезет проблема, которую не залатать покупкой ещё одного чипа. По расчётам Epoch AI, вычислительной мощности, выпущенной с 2025 по 2027 год, хватит для одновременной работы от 33 до 171 млн агентов уровня передовых моделей.
Kandinsky научился лепить видео со звуком
ИИ-видео всё меньше смахивает на немой клип. «Сбер» показал Kandinsky 6.0 Video - модель, которая разом генерит картинку и звук: речь персонажей, музыку и шумы окружения.
Три профессии, которые ИИ уже плодит прямо сейчас
ИИ перетряхивает рынок труда не только тем, что съедает привычные задачи. Вместе с автоматизацией вылезают специалисты, которых ещё несколько лет назад никто бы не вообразил, и часть таких профессий формируется на глазах.
Google научила эмбеддинги переваривать сразу пять типов данных
Google порешила, что эмбеддингам хватит возиться с одним текстом. Компания выкатила вторую версию EmbeddingGemma: теперь система сваливает в общее векторное пространство текст, код, изображения, видео и аудио. Так что на вход можно подавать сразу несколько типов данных.