Почему хакинг с помощью ИИ становится всё труднее контролировать (с Бенджамином Вайнштейн-Рауном)

Описание: Бенджамин Вайнштейн-Раун, руководитель исследовательского отдела Palisade Research, присоединяется к подкасту, чтобы обсудить, как передовые системы искусственного интеллекта меняют кибербезопасность. Мы рассматриваем стремительный рост автономного взлома, недавние инциденты, когда модели выходили за пределы тестовых сред, и почему обучение может поощрять поведение, похожее на мошенничество. Разговор затрагивает риски, связанные с моделями с открытыми весами, вопрос о том, может ли ИИ помочь в обеспечении безопасности программного обеспечения, меры личной безопасности и необходимость международной координации.

ССЫЛКИ:
Профиль Бенджамина Вайнштейна-Рауна: https://palisaderesearch.org/about/#b...
Веб-сайт Бенджамина Вайнштейна-Рауна: https://www.benwr.net

РАЗДЕЛЫ:
(00:00) Предварительный просмотр эпизода
(01:06) Начальные киберугрозы
(02:15) Измерение прогресса ИИ
(04:54) Открытый весовой уровень
(08:01) После момента Mythos
(14:22) Настройка вознаграждения за взлом
(24:47) Детали роя Artifactory
(32:32) Дилеммы защитной модели
(38:40) Верификация и обучение
(45:32) Согласование математических оракулов
(47:45) Будущие киберриски
(51:58) Основы личной безопасности
(57:27) Необходимость скоординированного управления

ПРОИЗВЕДЕНО Автор:
https://aipodcast.ing

Социальные сети:
Веб-сайт: https://podcast.futureoflife.org
Твиттер (FLI): https://x.com/FLI_org
Твиттер (Gus): https://x.com/gusdocker
LinkedIn:   / future-of-life-institute  
YouTube:    / @futureoflifeinstitute  
Apple: https://geo.itunes.apple.com/us/podca...
Spotify: https://open.spotify.com/show/2Op1WO3...