RTV Overflow: «Красный за синий: укрепление приложений с помощью эффективной работы "красной кома...

Описание: Ицик Мантин и Итай Хазан

В условиях беспрецедентного роста популярности приложений GenAI и LLM, эволюция новых поверхностей атаки, связанных с этими приложениями, ставит перед специалистами по безопасности в целом и, в частности, перед командами «красных». В контексте безопасности GenAI, команды «красных» могут фокусироваться на трех объектах-жертвах: самой модели LLM, подсказке и всем приложении, причем каждый из них имеет свои собственные проблемы и возможности.

С позиции защитника, стремящегося к использованию команд «красных» в жизненном цикле разработки приложений таким образом, чтобы это способствовало проактивной безопасности, предоставляя действенные рекомендации по укреплению приложения, мы представим новый подход к безопасности, основанный на треугольнике инструментов: а) команды «красных» на основе подсказок, отражающих угрозы; б) усиление подсказок путем их обновления; в) устойчивая к атакам модель LLM с высокой управляемостью безопасности.

Twitter/X: @algo_cyber
LinkedIn: linkedin.com/in/imantin/

___________________________________________________________

Деревня Красной Команды

Веб-сайт Деревни Красной Команды: redteamvillage.io
Discord: redteamvillage.io/discord
Twitter: twitter.com/RedTeamVillage_
Instagram: instagram.com/theredteamvillage
BlueSky: bsky.app/profile/theredteamvillage.bsky.social