Databricks выпустил фреймворк безопасности ИИ DASF 2.0

Post Thumbnail

Компания Databricks объявила о выпуске второй версии своего фреймворка безопасности искусственного интеллекта (DASF 2.0), представляющего собой комплексное руководство по управлению рисками в сфере ИИ. Новая версия фреймворка идентифицирует 62 технических риска безопасности и предлагает 64 рекомендуемых механизма контроля для управления рисками ИИ-моделей.

DASF 2.0 разработан совместными усилиями команд Databricks по безопасности и машинному обучению в сотрудничестве с отраслевыми экспертами. Фреймворк призван стать связующим звеном между бизнесом, данными, управлением и командами безопасности, предоставляя практические инструменты и действенные стратегии для демистификации ИИ и обеспечения эффективного внедрения.

Особенностью новой версии является расширенная интеграция с ведущими отраслевыми стандартами и фреймворками оценки рисков ИИ, включая MITRE ATLAS, OWASP LLM & ML Top 10, NIST 800-53, NIST CSF, HITRUST, рекомендации ENISA по обеспечению безопасности алгоритмов машинного обучения, ISO 42001, ISO 27001:2022 и Закон ЕС об ИИ.

В ответ на отзывы пользователей компания также выпустила сопроводительный документ DASF, разработанный для помощи в практической реализации фреймворка. Этот комплексный подход позволяет организациям находить баланс между инновационным развитием ИИ и необходимым управлением рисками.

Уникальность DASF 2.0 заключается в том, что он предоставляет комплексный профиль рисков для развертывания ИИ-систем, основываясь на существующих стандартах. Фреймворк предлагает многоуровневые механизмы контроля, упрощающие управление рисками ИИ для организаций, и может быть применен к любой выбранной платформе данных и ИИ.

AIvengo > Новости ИИ > Databricks выпустил фреймворк безопасности ИИ DASF 2.0
Почитать из последнего
Samsung хотят обойти Apple по ИИ-функциям и вернуть лидерство
В прошлом году Samsung поставила на рынок 400 миллионов мобильных устройств с ассистентом Google Gemini. Этого, видимо, показалось мало. В этом году южнокорейский гигант намерен удвоить количество до 800 миллионов штук. Тэ Мун Ро, один из двух гендиректоров Samsung Electronics, объяснил агентству Reuters это просто. Компания стремится распространить функции ИИ на все устройства и все услуги как можно скорее.
Alibaba научила алгоритм видеть рак там, где врачи пропускают
Каменщик 57 лет в Китае пришёл в больницу проверить диабет. Обычный осмотр, ничего особенного. Через 3 дня ему звонит заведующий отделением поджелудочной железы, мол приезжайте срочно. ИИ, который прогнал его КТ-снимок, нашёл опухоль. Оказалось – рак, но на ранней стадии. Вырезали и мужчина выжил. Без этой технологии его бы нашли слишком поздно, когда 5-летняя выживаемость около 10%.
OpenAI к 2028 году увеличит мощности дата-центров в 90 раз
Epoch AI сделал публично доступным трекер крупнейших дата-центров. А человек из твиттера с ником Peter Gostev визуализировал суммарные мощности по месяцам в разрезе компаний, и цифры просто убийственные.
Робот с лазером собрал 20 млн долларов, чтобы выжигать сорняки ярче солнца
Carbon Robotics привлекла 20 миллионов долларов на разработку третьей линейки продуктов. Компания делает роботов, которые выжигают сорняки лазером и работают в 14 странах. А за всем этим стоит большая растительная модель, которую разрабатывали с первых дней.
Шведский подросток бросил школу и теперь работает научным сотрудником в OpenAI
Габриэлю Петерссону 23 года, он бросил школу в глухом шведском городке и никогда не учился в университете. Но прямо сейчас он работает научным сотрудником в OpenAI в команде Sora. И Габриэль рассказал, как у него так получилось.