Я изучил исследования об ИИ-хакинге. Вот что работает на самом деле.

Описание: Cline Desktop: https://cline.gg/desktop-houseofel
ClinePass: https://cline.gg/clinepass-houseofel

Искусственный интеллект значительно улучшает обнаружение уязвимостей, но системы, окружающие его, с трудом успевают за ним. Ошибки, которые оставались незамеченными годами, теперь обнаруживаются за недели, злоумышленники действуют в течение нескольких часов, и даже исправления, сгенерированные ИИ, все еще требуют проверки людьми, не сломали ли они что-то еще. Я изучил последние исследования, чтобы понять, насколько мы близки к тому, чтобы позволить ИИ безопасно защищать наши системы, и ответ оказался сложнее, чем предполагают как апокалиптические прогнозы, так и ажиотаж. Технология развивается быстро. Настоящий вопрос заключается в том, сможет ли архитектура безопасности вокруг нее развиваться достаточно быстро.

☕ Поддержите канал на Ko-fi:
➡️ https://ko-fi.com/houseofel

📌 Разделы
00:00 Введение
02:44 ИИ находит уязвимости
06:47 Может ли ИИ их исправить?

13:16 Контроль за ИИ
21:39 IPO ИИ и риски
24:45 Обсуждение

📚 ИСТОЧНИКИ И ДАЛЬНЕЙШАЯ ЛИТЕРАТУРА
"О надежности эталонных показателей для исправления уязвимостей на основе LLM" (Le, Shi, Xing, arXiv, октябрь 2026 г.)
https://arxiv.org/abs/2610.10150

"Агенты ИИ всегда могут попасться на мгновенные инъекции" (Abdelnabi, Bagdasarian, arXiv, май 2026 г.)
https://arxiv.org/abs/2605.17634

"Адаптивная оценка внеполосной защиты от мгновенных инъекций в агентах LLM" (Narisetty et al., arXiv, июнь) 2026)
https://arxiv.org/abs/2606.26479

"От обучения к эскалации" (Кольменеро-Фернандес, arXiv, октябрь 2026 г.)
https://arxiv.org/abs/2610.20437

"От реактивного сдерживания к проактивному обеспечению" (Рафтари, arXiv, октябрь 2026 г.)
https://arxiv.org/abs/2610.12463

"Кибер-способные ИИ-агенты" (Сиддик, arXiv, июль 2026 г.)
https://arxiv.org/abs/2607.25379

"Исправления уязвимостей в моделях Frontier часто НЕПРАВИЛЬНЫ." (1Password, август 2026 г.)
https://1password.com/blog/why-ai-gen...

"Тенденции обнаружения и эксплуатации уязвимостей в эпоху ИИ" (Google, сентябрь 2026 г.)
https://cloud.google.com/blog/topics/...

"Обнаружение криптографических уязвимостей с помощью Claude" (Anthropic, июль 2026 г.)
https://www.anthropic.com/research/di...

Записка об исследовании криптоанализа с использованием ИИ (Cloud Security Alliance, октябрь) 2026)
https://labs.cloudsecurityalliance.or...

"Некоторые заметки о новых результатах Anthropics" (Мэтью Грин, июль 2026 г.)
https://blog.cryptographyengineering....

"PHP2Shell" (Калифорния, октябрь 2026 г.)
https://calif.io/php2shell/

"PHP2Shell: ИИ обнаруживает критические уязвимости RCE" (Wiz, октябрь 2026 г.)
https://www.wiz.io/blog/php2shell-php...

Эксплуатация PHP2Shell до раскрытия (AWS, октябрь) 2026)
https://aws.amazon.com/blogs/security...

Обновления безопасности за октябрь 2026 г. (Microsoft, октябрь 2026 г.)
https://msrc.microsoft.com/update-gui...

"Расследование непреднамеренных действий модели" (Anthropic, октябрь 2026 г.)
https://www.anthropic.com/research/in...

"Обеспечение безопасности нашей среды обучения моделей на переднем крае технологий" (OpenAI, октябрь 2026 г.)
https://openai.com/index/securing-our...

Заявка Anthropic S-1 (SEC, октябрь) 2026)
https://www.sec.gov/Archives/edgar/da...

Письмо в адрес Anthropic относительно планируемого IPO (Контролер Нью-Йорка, октябрь 2026 г.)
https://comptroller.nyc.gov/reports/l...

Комментарии по идентификации агентов ИИ (NIST, 2026 г.)
https://pages.nist.gov/nccoe-ai-ident...

#AI #ИскусственныйИнтеллект #Кибербезопасность #БезопасностьИИ #ОткрытыйИИ #Anthropic #АгентыИИ #ИсследованияИИ #ТехнологическаяИндустрия #ПузырьИИ #AIIPO #БудущееИскусственногоИнтеллекта #ДомЭля