Как взломать LLM — и зачем это нужно | Владислав Савенков

Описание: #Data LLM #Doubletapp #Large Language Models #AI
ML-инженер Doubletapp Владислав Савенков объясняет, как работает Red Teaming для LLM-систем и почему генеративные модели нужно тестировать на устойчивость — даже если они кажутся безопасными по умолчанию. Доклад прозвучал на Data-завтраке, регулярной конференции екатеринбургского ML-сообщества.

Это видео — для тех, кто разрабатывает или внедряет решения на базе ИИ, автоматизирует процессы и хочет понять, какие скрытые уязвимости могут возникнуть в LLM-сценариях.

Из доклада вы узнаете:
— что такое Red Teaming и как через генерацию аномальных и вредоносных запросов обнаруживать проблемные сценарии;
— кейсы применения Red Teaming на проектах клиентов, а также инструменты, методы и подходы, которые помогают системно находить уязвимости;
— почему не всякая автоматизация работает «из коробки» и в каких случаях человек остаётся надёжнее модели.

Сайт: https://2tapp.cc/site1212
VK: https://vk.com/doubletapp
Telegram: https://t.me/doubletapp
Instagram*:   / doubletapp.ai  
Facebook*:   / doubletappai  
Dribble: https://dribbble.com/Doubletapp

*Запрещены в РФ

#LLM #Data LLM #Doubletapp #Large Language Models #AI #Artificial Intelligence #Machine Learning #Data Engineering #AI Community