HOPE_16 (2025): Использование возникающих уязвимостей на основе свойств в больших языковых моделях
Автор: Channel2600
Загружено: 2026-01-26
Просмотров: 24
Описание:
Дэвид Кузмар
Воскресенье, 17 августа 2025 г., 14:00 (Тобин 201/202): По мере распространения технологий ИИ как в безобидных, так и в вредоносных приложениях, наше понимание поверхности атаки должно развиваться с учетом возникающих свойств в сложных системах. В больших языковых моделях это возникающее поведение создает новые классы уязвимостей, которые не только не устраняются, но и в значительной степени остаются незамеченными. Систематически манипулируя ограниченным восприятием реальности моделью, злоумышленники могут вызывать каскадные сбои, выходящие далеко за рамки традиционного обхода фильтров, выявляя фундаментальные слабые места во внутренней логике и контекстной привязке этих систем. В этой сессии будет подробно рассмотрено, как работают эти уязвимости, приведены реальные примеры и исследованы далеко идущие последствия для безопасности, управления и защиты ИИ.
Повторяем попытку...
Доступные форматы для скачивания:
Скачать видео
-
Информация по загрузке:
