Безопасность цепочки поставок ИИ с участием Эйвы Блэк | Технический разговор с Крисом Райтом

Описание: Что происходит, когда генеративные модели ИИ, составляющие наш код, оказываются скомпрометированными? С ИИ мы не просто потребляем код; мы потребляем модели, создавая новую поверхность атаки, которую только начинаем осознавать. В этом выпуске технический директор Red Hat Крис Райт встречается с экспертом по безопасности и политике с открытым исходным кодом Эйвой Блэк, чтобы проанализировать этот новый класс угроз. Они обсуждают всё: от отравления данных и бэкдоров в моделях до проблемы, которую генерируемые ИИ «неразберихи» подавляют разработчиков открытого исходного кода. Послушайте, как они объясняют, как принципы прозрачности, сотрудничества и управления открытым исходным кодом — наш самый перспективный путь к построению доверия и безопасности в будущем, основанном на ИИ.

00:00 — Введение: Новый ландшафт угроз ИИ
01:21 — Момент, который меняет всё для безопасности ИИ
04:39 — Почему здоровье сообщества критически важно для безопасности
06:29 — Может ли генеративный ИИ помочь нам писать более безопасный код? 09:03 — «Учитывайте разницу»: когда оптимизация модели создаёт уязвимости
13:49 — Можно ли доверять ИИ проверку кода?
18:21 — Роль предприятия в безопасной экосистеме с открытым исходным кодом
20:54 — Заключение: Инновации и безопасность идут рука об руку

Подробнее:
Что такое безопасность ИИ? https://www.redhat.com/ru/topics/ai/w...
Влияние Закона ЕС о киберустойчивости на безопасность ПО с открытым исходным кодом https://www.redhat.com/ru/blog/eu-cyb...
Фонд безопасности ПО с открытым исходным кодом (OpenSSF) https://openssf.org/
Дорожная карта безопасности ПО с открытым исходным кодом CISA https://www.cisa.gov/resources-tools/...

Подпишитесь на нас:
Крис Райт:   / chris-wright-b733851  
Эва Блэк:   / aevaonline  
Эва Блэк: https://nullpoint.studio/

Что такое «техническая терминология»?
«Technally Speaking» освещает новые технологические тенденции, используя идеи ведущих мировых экспертов и технического директора Red Hat Криса Райта. Серия сочетает в себе глубокие дискуссии, технические новости и краткие творческие материалы, укрепляя позицию Red Hat как пионера в области технологических инноваций и лидера в области открытого исходного кода.

Хотите принять участие? Оставьте комментарий, если у вас есть тема или имя гостя, которого вы хотели бы видеть в программе.

Смотрите больше «Technally Speaking»:

Плейлист на YouTube:    • Technically Speaking with Chris Wright  

Показать страницу: https://www.redhat.com/en/technically...

Подпишитесь на канал Red Hat на YouTube: https://www.youtube.com/user/RedHatVi...

#RedHat #AISecurity #OpenSource