Databricks lance le cadre de sécurité IA DASF 2.0

Databricks a annoncé la sortie de la deuxième version de son cadre de sécurité d’intelligence artificielle (DASF 2.0), qui fournit des directives complètes pour la gestion des risques liés à l’IA. La nouvelle version du cadre identifie 62 risques techniques de sécurité et propose 64 mécanismes de contrôle recommandés pour gérer les risques des modèles d’IA.

DASF 2.0 a été développé grâce aux efforts conjoints des équipes de sécurité et d’apprentissage automatique de Databricks en collaboration avec des experts de l’industrie. Le cadre vise à être un pont entre les équipes commerciales, de données, de gouvernance et de sécurité, fournissant des outils pratiques et des stratégies exploitables pour démystifier l’IA et assurer une mise en œuvre efficace.

Une caractéristique de la nouvelle version est l’intégration améliorée avec les normes industrielles principales et les cadres d’évaluation des risques de l’IA, incluant MITRE ATLAS, OWASP LLM & ML Top 10, NIST 800-53, NIST CSF, HITRUST, les recommandations ENISA pour sécuriser les algorithmes d’apprentissage automatique, ISO 42001, ISO 27001:2022 et la Loi sur l’IA de l’UE.

En réponse aux retours des utilisateurs, l’entreprise a également publié un document d’accompagnement DASF, conçu pour aider à la mise en œuvre pratique du cadre. Cette approche complète permet aux organisations d’équilibrer le développement innovant de l’IA avec la gestion nécessaire des risques.

L’unicité de DASF 2.0 réside dans sa fourniture d’un profil de risque complet pour le déploiement des systèmes d’IA, basé sur les normes existantes. Le cadre propose des mécanismes de contrôle multiniveaux, simplifiant la gestion des risques liés à l’IA pour les organisations, et peut être appliqué à n’importe quelle plateforme de données et d’IA choisie.