Основы безопасности ИИ: парадигма, термины, ответственность и роли | Урок 6.1 | Курс AI Governance

Описание: В этом первом уроке из нашей серии уроков, посвященном безопасности ИИ, мы исследуем фундаментальный сдвиг парадигмы от классической кибербезопасности к специфическим вызовам искусственного интеллекта. Мы разберем, почему традиционные подходы (CIA-триада) недостаточны для защиты современных ИИ-систем и почему фокус смещается с защиты инфраструктуры на защиту самой логики принятия решений.
В этом уроке вы научитесь:
Четко видеть, чем безопасность ИИ принципиально отличается от классической кибербезопасности.
Понимать, почему ИИ-модель — это новый самостоятельный актив, порождающий уникальные бизнес-риски.
Классифицировать 5 фундаментальных вызовов для любой ИИ-системы: инфраструктура, данные, время, противник и согласованность (alignment).
Разбираться в 5 ключевых свойствах доверенного ИИ, которые противостоят этим угрозам: отказоустойчивость, устойчивость, надежность, безопасность и безопасность функционирования.
Применять модели распределения ответственности, включая концепцию «трех линий защиты», для эффективного управления безопасностью ИИ в вашей организации.
Этот урок необходим специалистам по кибербезопасности, которые хотят понять специфику ИИ, а также менеджерам по управлению рисками, руководителям проектов, дата-сайентистам и разработчикам, которые создают и внедряют ИИ-системы. Он также будет полезен юристам и специалистам по комплаенсу, работающим на стыке технологий и регулирования.
💬 Присоединяйтесь к нашему сообществу в Telegram!
Обсуждайте уроки, делитесь инсайтами и задавайте вопросы экспертам и единомышленникам в нашем Telegram-канале, посвященном AI Governance. Давайте вместе формировать культуру ответственного использования ИИ.
🔗 Ссылка на Telegram-канал: https://t.me/AIGovernanceRU

Таймкоды:
00:00 - Введение: Новая парадигма безопасности ИИ
00:48 - Традиционная кибербезопасность vs. Безопасность ИИ: Сдвиг фокуса
01:38 - ИИ-модель как новый тип актива и новые бизнес-риски
02:20 - Угрозы ИИ: 5 фундаментальных вызовов (инфраструктура, данные, время, противник, согласованность)
03:28 - Свойства доверенной ИИ-системы для противодействия угрозам
03:29 - Отказоустойчивость (Resilience)
04:02 - Устойчивость (Robustness)
04:29 - Надежность (Reliability)
04:54 - Безопасность (Security)
05:19 - Безопасность функционирования (Functional Safety)
05:58 - Модели ответственности: 3 линии защиты и RACI
07:20 - Подведение итогов и анонс следующего урока

#AIGovernance #AISecurity #БезопасностьИИ #УправлениеИИ #AIethics #aicourses