Главная проблема ИИ, которую никто не может решить

Описание: Как контролировать искусственный интеллект, который умнее нас? Почему ИИ может стать последним изобретением человечества? От умных роботов до галактических империй — как ИИ может изменить Вселенную. Разбираемся, почему сверхразумные цивилизации будут расти как бокалы шампанского, как они будут контролировать целые галактики, и останется ли в этом будущем место для людей. Разбираем главную проблему: сможем ли мы научить машины нашим ценностям до того, как они станут слишком умными для контроля?

При создании ролика я преимущественно опирался на:
Книгу Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта (Макс Тегмарк)
Книгу “Что мы думаем о машинах, которые думают. Ведущие мировые учёные об искусственном интеллекте” (Брокман Джон)
Книгу “Атлас искусственного интеллекта” (Кейт Кроуфорд)

Советую посмотреть ролик канала Rational Animations про создание злого ИИ:
The True Story of How GPT-2 Became Maximally Lewd
   • The True Story of How GPT-2 Became Maximal...  

Таймкоды для навигации по ролику:
00:00 - Системы глубокого обучения с подкреплением
03:31 - Последний бастион человеческого интеллекта (Ли Седоль vs DeepMind)
07:02 - История умного коня Ганса
09:18 - Что значит быть "умным"?
12:38 - Крупнейшие неудачи внедрения ИИ
17:15 - Выживут только ИИ-любовники
19:13 - Когда появится суперинтеллект? Мнение Сэма Альмана
22:00 - Поиск определений понятий "интеллект" и "общий"
30:58 - Может ли сверхинтеллект хотеть производить скрепки?
33:04 - Первая технология, способная погубить жизнь
36:03 - А что думает ИИ про безопасность ИИ?
37:50 - Самый похотливый ИИ всех времен
42:07 - Проблема загрузки ценностей
42:43 - Истоки целей в природе
47:26 - Согласование целей ИИ с целями людей
51:45 - Выбор целей
56:27 - Будущая жизнь
59:18 - Информация как главный товар будущего

Поддержать выход новых роликов можно:
✨ На Патреоне (зарубежные карты)
  / homodeussynergy  
✨ На Бусти (российские карты)
https://boosty.to/homodeus

BTC
1QFQRDfzVUgWmpY2j3GT9qxxZhShqVQngY
ETH
0x65d33bd38f5a021b097253045306367334975402

Спасибо!