Вы не можете изменить модели ИИ (вместо этого сделайте следующее).

Описание: Традиционное управление уязвимостями просто: найти уязвимость, исправить её и проверить исправление. Но что происходит, когда «активом» является нейронная сеть, которая научилась чему-то этически неправильному? В этом эпизоде ​​Сапна Пол (старший менеджер в Dayforce) объясняет, почему для моделей ИИ не существует «Вторников исправлений».

Сапна подробно рассматривает три критически важных уровня управления уязвимостями ИИ: защита производственных моделей, защита уровня данных от отравления и мониторинг поведения модели для получения технически корректных, но этически некорректных результатов. Мы обсуждаем, как обновить ваш реестр рисков, чтобы он говорил на языке бизнеса, и какие необходимые навыки нужны специалистам по безопасности, чтобы выжить в мире, где ИИ играет первостепенную роль.

В разговоре также рассматриваются практические способы использования ИИ внутри вашей команды безопасности для борьбы с усталостью от оповещений, важность инструментов объяснимости, таких как SHAP и LIME, и как согласовать свои действия с такими фреймворками, как NIST AI RMF и Закон ЕС об ИИ.

Заданные вопросы:
00:00 Введение
02:00 Кто такая Сапна Пол?
02:40 Что такое управление уязвимостями в эпоху ИИ?

05:00 Определение нового актива: нейронные сети и модели
07:00 Три уровня уязвимости ИИ (производство, данные, поведение)
10:20 Обновление реестра рисков для бизнес-рисков ИИ
13:30 Соответствие требованиям против инноваций: предотвращение несанкционированного использования ИИ
18:20 Использование ИИ для решения проблемы усталости от оповещений об уязвимостях
23:00 Навыки, необходимые будущим специалистам по виртуализации
25:40 Измерение внедрения ИИ в командах безопасности
29:20 Ключевые структуры: NIST AI RMF и EU AI Act
31:30 Инструменты для обеспечения безопасности ИИ: Counterfit, SHAP и LIME
33:30 С чего начать: обучение и вопросы, основанные на персонах
38:30 Забавные вопросы: живопись, наставничество и веганство Рамен

--------------------------------------------------------------------------------
📱Подкаст по облачной безопасности в социальных сетях📱
_____________________________________
🛜 Веб-сайт: https://cloudsecuritypodcast.tv/
🧑🏾‍💻 Интенсивный курс по облачной безопасности - https://www.cloudsecuritybootcamp.com/
✉️ Информационная рассылка по облачной безопасности - https://www.cloudsecuritynewsletter.com/
Twitter:   / cloudsecpod  
LinkedIn:   / cloud-security-podcast  

#cloudsecurity #aisecurity #cloudsecuritypodcast #vulnerabilitymanagement