DeepMind заменяет законы Азимова адаптивным датасетом для роботов
Google DeepMind под руководством Каролины Парады переосмысливает фундаментальные принципы безопасности роботов и хочет уйти от классических законов Азимова к более гибкой, обучаемой системе. Новый так называемый “Датасет Азимова” представляет собой не жёсткий набор правил, а адаптивную базу сценариев потенциально опасных ситуаций.
Ключевое отличие нового подхода заключается в способе обработки рисков. Современные роботы не просто следуют предустановленным директивам – они обучаются анализировать контекст. И принимать решения на основе обширной базы примеров. Когда робот видит стакан на краю стола, он не выполняет заранее запрограммированную команду. А оценивает ситуацию и перемещает предмет в безопасное положение. Обнаружив объект на полу, система распознаёт потенциальную опасность для человека и устраняет её.
Датасет формируется на основе анализа реальных инцидентов из разных стран мира, что обеспечивает разнообразие культурных и социальных контекстов. Каждый сценарий сопровождается визуальными примерами и инструкциями по минимизации рисков, создавая комплексную образовательную среду для искусственного интеллекта.
Этот подход отличается 3 принципиальными особенностями динамическое обновление данных, гибридный контроль с участием человека и открытость для тестирования сторонними разработчиками. Таким образом, в DeepMind считают, что “Датасет Азимова” создаёт не просто технологию, а эволюционирующую экосистему безопасности.
Автор: AIvengo
5 лет я работаю с машинным обучением и искусственным интеллектом. И эта сфера не перестает меня удивлять, восхищать и интересовать.
Latest News
Amazon превращает курьеров в киборгов с умными очками на ИИAmazon решил превратить своих курьеров в киборгов. Нет, серьёзно – компания анонсировала умные очки с искусственным интеллектом для доставщиков. Идея, по словам гиганта e-commerce, в том, чтобы освободить водителям руки. И избавить их от необходимости постоянно переключать взгляд между телефоном, посылкой и окружающим пространством.
OpenAI добавит камео персонажей в SoraКомпания OpenAI опубликовала дорожную карту развития Sora, и знаете что? Похоже, компания наконец-то осознала, что генерация видео – это не просто технологическая демонстрация. А инструмент, которым людям нужно реально пользоваться. Билл Пиблс, глава проекта, анонсировал целый набор обновлений, и некоторые из них действительно интересны.
Starcloud запускает спутник с ИИ в ноябре для дата-центра в космосеЗнаете, куда теперь переносят дата-центры для искусственного интеллекта? В космос. Стартап Starcloud, участник программы NVIDIA Inception, планирует запустить в ноябре спутник с искусственным интеллектом на орбиту Земли. И это только начало их амбициозного плана решить проблемы энергопотребления и охлаждения дата-центров на Земле.
ChatGPT Atlas уязвим к промпт-инъекциям и может помогать фишингуЯ рассказывал про то, что компания OpenAI выпустила браузер ChatGPT Atlas. И вот первые пользователи уже нашли целый букет проблем. Начнём с базовых вещей. В браузере нет встроенного блокировщика рекламы, режима чтения и функции перевода текста на странице. Чтобы пересказать статью или перевести её, нужно просить бота в чате.
Китай сломал литографическую установку ASML при попытке её скопироватьВот вам история про то, как импортозамещение столкнулось с суровой реальностью. Китай попытался разобрать литографическую установку ASML категории DUV, чтобы изучить её устройство. Результат? Повредили систему и обратились к самой ASML с просьбой отремонтировать. Абсурд ситуации зашкаливает.
