Безопасность агентов: права доступа, происхождение и цепочка поставок агентов — Стив Йегге, Gas Town

Описание: Проверка безопасности игры, которую один инженер разрабатывал 30 лет, с помощью Fable показала отсутствие уязвимостей: защита облачных сервисов завершена, учетные данные обработаны, все в порядке. Затем Snyk проанализировал тот же код и обнаружил 241 уязвимость, которую агент даже не догадался искать. Эта уязвимость — центральная тема доклада Стива Йегге, настоящее название которого, по его словам, не «агентная безопасность», а «бойтесь». Главный архитектор безопасности крупного банка уже предоставил ему расчеты: если все выпускают код в 10 раз быстрее, а темпы появления дефектов безопасности остаются стабильными, то уязвимая поверхность увеличивается в 10 раз, а если код пишут модели, то темпы роста не остаются стабильными, и ситуация ухудшается.

Самое пугающее — это не знакомые ошибки, такие как XSS, которые модели по-прежнему с удовольствием создают, а новая поверхность атаки. Примером тому служит «некачественное» использование чужих ресурсов: модель генерирует галлюцинаторное имя пакета, например, graphy 123, кто-то загружает реальный пакет под этим же именем, который делает ожидаемое действие, плюс содержит бэкдор, и сборка проходит успешно, тесты проходят без ошибок. Частичный ответ Йегге вытекает из принципа работы моделей. Они хорошо выполняют одну задачу за раз, поэтому запрос на корректность и безопасность за один проход дает лишь половинчатую работу. Безопасность становится отдельным этапом, первым и последним, а агенту предоставляются реальные инструменты, такие как Snyk и Chainguard, для проверки собственной работы. И окно возможностей закрывается: теперь Five Eyes измеряет момент, когда модели с открытым исходным кодом смогут автономно взламывать производственные системы, месяцами, а не годами.


Информация о докладчике:
  / steveyegge  
https://x.com/steve_yegge
https://github.com/steveyegge/beads

Временные метки:
0:00 - Настоящее название доклада: бойтесь
1:38 - Вопрос банковского архитектора: в 10 раз быстрее, в 10 раз больше дефектов
3:08 - Новые поверхности атаки и использование уязвимости
4:51 - Как Google выявляет ошибки прямо под рукой разработчика
6:08 - Почему у уязвимостей безопасности нет периода полураспада
6:46 - Может ли модель просто писать безопасный код?

7:24 - Запуск Snyk в его собственной игре: 241 уязвимость
8:14 - Правило пяти и безопасность как собственный пропуск
9:32 - Выживание программного обеспечения 3.0: ленивые модели ищут инструменты
10:09 - Дайте агенту Snyk и Chainguard
12:03 - Пять глаз: месяцы, а не годы
13:34 - Освежите свои семейные кодовые слова
14:36 ​​- Гонка вооружений, в которой вы можете начать участвовать прямо сейчас
15:30 - Вопросы и ответы: что вас удивило в программировании ИИ
17:28 - Вопросы и ответы: Газовый город, бусы и запуск агентов всю ночь
19:13 - Вопросы и ответы: враждебные агенты наблюдают за вашими агентами
20:58 - Вопросы и ответы: внедрение подсказок

---

Смотрите вместе с исправленной стенограммой, резюме, временными метками и ресурсами на официальном канале AIE этого доклада страница:
https://ai.engineer/talks/yWS0udrIOc8...

Присоединяйтесь к нашим предстоящим конференциям для инженеров в области ИИ (см. целевую страницу https://ai.engineer):

AIEi Shanghai, 5–6 ноября — первая конференция для встреч с ведущими китайскими лабораториями и инженерами
AIE CODE в Сан-Франциско, 10–12 ноября — возвращается ведущая конференция по программированию в области ИИ
AIEi Sydney, 7–8 декабря — первая конференция AIEi, проводимая параллельно с NeurIPS 2026 в Сиднее

---