Риски искусственного интеллекта: теория или уже реальность?

Описание: #рискиИИ #искусственныйинтеллект #AGI

Что если ИИ не восстанет против нас — а просто сделает именно то, что мы его просили? Только результат окажется катастрофическим.

В этом видео — 4 главных типа рисков, связанных с развитием общего искусственного интеллекта (AGI): от технических багов до структурных угроз.

Разбираем примеры, реальные истории и почему эта тема уже не фантастика, а реальность:
00:00 Intro
00:30 AGI safety
01:00 AI vs AGI
02:00 3 глобальных варианта развития
02:50 Как менялось отношение общества к AGI-safety
03:45 Как быстро наступит AGI: медленное/быстрое развитие или технологическая сингулярность
05:00 Классификация рисков AGI по DeepMind:
05:40 Misuse (злонамеренное использование)
06:24 Misalignment (несовпадение целей)
07:41 Mistakes (ошибки)
09:06 Structural risks (риски в устройстве мира)
10:12 Эксперимент Юдковского (AGI BOX experiment)
11:47 Выводы



Oткрытое письмо DeepMind:
https://storage.googleapis.com/deepmi...

и его краткий обзор
https://deepmind.google/discover/blog...

Подписывайтесь на MatChast — здесь разбираем математику, машинное обучение и логику ИИ понятным языком.

✈️ Telegram: https://t.me/MatChastAI
📸 Insta: / matchastai

#AIalignment #ConstitutionalAI #DeepMind #AIethics #OpenAI #AGIrisk #AIrisks #AIfuture