Databricks выпустил фреймворк безопасности ИИ DASF 2.0

Компания Databricks объявила о выпуске второй версии своего фреймворка безопасности искусственного интеллекта (DASF 2.0), представляющего собой комплексное руководство по управлению рисками в сфере ИИ. Новая версия фреймворка идентифицирует 62 технических риска безопасности и предлагает 64 рекомендуемых механизма контроля для управления рисками ИИ-моделей.

DASF 2.0 разработан совместными усилиями команд Databricks по безопасности и машинному обучению в сотрудничестве с отраслевыми экспертами. Фреймворк призван стать связующим звеном между бизнесом, данными, управлением и командами безопасности, предоставляя практические инструменты и действенные стратегии для демистификации ИИ и обеспечения эффективного внедрения.

Особенностью новой версии является расширенная интеграция с ведущими отраслевыми стандартами и фреймворками оценки рисков ИИ, включая MITRE ATLAS, OWASP LLM & ML Top 10, NIST 800-53, NIST CSF, HITRUST, рекомендации ENISA по обеспечению безопасности алгоритмов машинного обучения, ISO 42001, ISO 27001:2022 и Закон ЕС об ИИ.

В ответ на отзывы пользователей компания также выпустила сопроводительный документ DASF, разработанный для помощи в практической реализации фреймворка. Этот комплексный подход позволяет организациям находить баланс между инновационным развитием ИИ и необходимым управлением рисками.

Уникальность DASF 2.0 заключается в том, что он предоставляет комплексный профиль рисков для развертывания ИИ-систем, основываясь на существующих стандартах. Фреймворк предлагает многоуровневые механизмы контроля, упрощающие управление рисками ИИ для организаций, и может быть применен к любой выбранной платформе данных и ИИ.