Databricks veröffentlicht KI-Sicherheitsframework DASF 2.0

Databricks kündigte die Veröffentlichung der zweiten Version seines Sicherheitsframeworks für künstliche Intelligenz (DASF 2.0) an, das umfassende Richtlinien für das KI-Risikomanagement bietet. Die neue Version des Frameworks identifiziert 62 technische Sicherheitsrisiken und bietet 64 empfohlene Kontrollmechanismen für das Management von KI-Modellrisiken.

DASF 2.0 wurde durch die gemeinsamen Bemühungen der Sicherheits- und Machine-Learning-Teams von Databricks in Zusammenarbeit mit Branchenexperten entwickelt. Das Framework zielt darauf ab, eine Brücke zwischen Geschäfts-, Daten-, Governance- und Sicherheitsteams zu sein und bietet praktische Werkzeuge und umsetzbare Strategien zur Entmystifizierung von KI und zur Gewährleistung einer effektiven Implementierung.

Ein Merkmal der neuen Version ist die verbesserte Integration mit führenden Branchenstandards und KI-Risikobewertungsframeworks, einschließlich MITRE ATLAS, OWASP LLM & ML Top 10, NIST 800-53, NIST CSF, HITRUST, ENISA-Empfehlungen zur Sicherung von Machine-Learning-Algorithmen, ISO 42001, ISO 27001:2022 und dem EU-KI-Gesetz.

Als Reaktion auf Benutzer-Feedback veröffentlichte das Unternehmen auch ein DASF-Begleitdokument, das bei der praktischen Framework-Implementierung hilft. Dieser umfassende Ansatz ermöglicht es Organisationen, innovative KI-Entwicklung mit notwendigem Risikomanagement in Einklang zu bringen.

Die Einzigartigkeit von DASF 2.0 liegt in seiner Bereitstellung eines umfassenden Risikoprofils für KI-Systemimplementierungen, basierend auf bestehenden Standards. Das Framework bietet mehrschichtige Kontrollmechanismen, die das KI-Risikomanagement für Organisationen vereinfachen, und kann auf jede gewählte Daten- und KI-Plattform angewendet werden.