Databricks выпустил фреймворк безопасности ИИ DASF 2.0

Post Thumbnail

Компания Databricks объявила о выпуске второй версии своего фреймворка безопасности искусственного интеллекта (DASF 2.0), представляющего собой комплексное руководство по управлению рисками в сфере ИИ. Новая версия фреймворка идентифицирует 62 технических риска безопасности и предлагает 64 рекомендуемых механизма контроля для управления рисками ИИ-моделей.

DASF 2.0 разработан совместными усилиями команд Databricks по безопасности и машинному обучению в сотрудничестве с отраслевыми экспертами. Фреймворк призван стать связующим звеном между бизнесом, данными, управлением и командами безопасности, предоставляя практические инструменты и действенные стратегии для демистификации ИИ и обеспечения эффективного внедрения.

Особенностью новой версии является расширенная интеграция с ведущими отраслевыми стандартами и фреймворками оценки рисков ИИ, включая MITRE ATLAS, OWASP LLM & ML Top 10, NIST 800-53, NIST CSF, HITRUST, рекомендации ENISA по обеспечению безопасности алгоритмов машинного обучения, ISO 42001, ISO 27001:2022 и Закон ЕС об ИИ.

В ответ на отзывы пользователей компания также выпустила сопроводительный документ DASF, разработанный для помощи в практической реализации фреймворка. Этот комплексный подход позволяет организациям находить баланс между инновационным развитием ИИ и необходимым управлением рисками.

Уникальность DASF 2.0 заключается в том, что он предоставляет комплексный профиль рисков для развертывания ИИ-систем, основываясь на существующих стандартах. Фреймворк предлагает многоуровневые механизмы контроля, упрощающие управление рисками ИИ для организаций, и может быть применен к любой выбранной платформе данных и ИИ.

AIvengo > Новости ИИ > Databricks выпустил фреймворк безопасности ИИ DASF 2.0
Почитать из последнего
Глава Boston Dynamics рассказал, когда гуманоиды придут в наши дома
Роберт Плейтер возглавляет Boston Dynamics и работает там с 1994 года. Больше 30 лет в 1 компании занимается роботами. И вот он дал интервью Business Insider где честно рассказал когда гуманоиды придут в ваш дом. Спойлер – не скоро.
Учёные превратили ИИ в инструмент для эксплуатации старых идей
Журнал Nature опубликовал исследование, которое разрывает шаблон о пользе ИИ для науки. Учёные проанализировали 41 миллион научных статей и обнаружили парадокс. Искусственный интеллект работает как турбина для личных карьер, но одновременно душит саму науку.
В TSMC проверили, есть ли на самом деле ИИ-пузырь
Представьте. Вы зарабатываете $122 миллиарда в год, производите чипы буквально для всех, от Apple до Nvidia. А также бьёте рекорды квартал за кварталом. И вдруг публично заявляете – мы очень нервничаем. Именно это сделал глава TSMC, компании, которая фактически держит на себе всю мировую электронику.
Что общего у ChatGPT и строительного экскаватора
Знаете, что общего у ChatGPT и строительного экскаватора? Казалось бы, ничего. Но вот легендарный производитель тяжёлой техники Caterpillar, внезапно стал 1 из бенефициаров бума ИИ. И речь тут совсем не о бульдозерах.
Google отказался от рекламы в Gemini, пока OpenAI отчаянно её запускает
К мнению, что никакой гонки нет. Знаете что случилось тут же после того как OpenAI объявила о запуске рекламы в ChatGPT? Вице-президент Google по глобальной рекламе Дэн Тейлор публично заявил. Мол у нас нет планов по размещению рекламы в приложении Gemini. Совпадение? Не думаю.