Экспресс-курс по разработке искусственного интеллекта

Описание: Зарегистрируйтесь на учебный лагерь: https://www.appsecengineer.com/bootca...

ИИ меняет подход к разработке и методы взлома. За каждым рабочим процессом, основанным на LLM, скрывается скрытая поверхность атаки: зараженные данные, агенты с избыточными полномочиями и подсказки, которые можно использовать для эксплойтов. Что произойдет, если ваш чат-бот, детектор мошенничества или помощник по кодированию начнут работать против вас?

В этом прямом эфире присоединяйтесь к Харичаране С. и AppSecEngineer, чтобы разобраться в реальных угрозах, с которыми сталкиваются современные системы GenAI. Вы узнаете, как злоумышленники используют инъекции подсказок, повреждают данные моделей и злоупотребляют правами агентов, а затем посмотрите живую демонстрацию отравления моделей, которое превращает «полезного» бота AppSec в обманчивый и вызывающий шутки кошмар.

Получите руководство по защите собственных рабочих процессов ИИ с помощью практических инструментов, сопоставленных с 10 лучшими инструментами OWASP для LLM и NIST AI RMF.

Что вы узнаете:

1. Как на самом деле работают мгновенные инъекции, отравление данных и чрезмерное вмешательство;
2. Почему RAG, контекст и память расширяют вашу поверхность атаки;
3. Как защитить ИИ-агентов, инструменты и векторные хранилища от компрометации.