Эта книга-бестселлер повергла советников по национальной безопасности в панику.

Описание: Наше второе видео только что получило премию Webby's People's Voice Award! → http://bit.ly/3OVCA1i

Ещё больше мыслей, наша подборка новостей и бесплатные книги (пока не закончатся) → https://80000hours.org/iabied/

Если мы создаём нечто намного умнее нас, с целями, которые мы не разделяем, и не зная, как это контролировать, мы проигрываем. Это основное утверждение книги, и я не думаю, что оно так уж спорно. Настоящий вопрос в том, движемся ли мы в этом направлении.

Если это для вас важно, подпишитесь на AI in Context. Мы тоже над этим работаем.

Исправление: в 14:18 я говорю: «Менее чем через неделю после этого поста один хакер использовал ту же модель ИИ для взлома мексиканского правительства». Мне следовало сказать: «Менее чем через неделю после этого поста появилась новость о том, что один хакер использовал Claude для взлома мексиканского правительства». Эта история получила огласку 24 февраля, но сам взлом произошёл в декабре 2025 года и январе 2026 года, до выхода Opus 4.6. Это означает, что злоумышленник, должно быть, использовал немного менее продвинутую версию Claude, чем Opus 4.6, ту, в которой было обнаружено 500 уязвимостей нулевого дня. Спасибо Карлу из @InternetOfBugs за указание на эту ошибку.

𝙒𝙖𝙩𝙘𝙝 𝙥𝙧𝙚𝙫𝙞𝙤𝙪𝙨 𝙫𝙞𝙙𝙚𝙤𝙨
   • We're Not Ready for Superintelligence  

   • If you remember one AI disaster, make it t...  

   • Could AI wipe out humanity? | Most pressin...   (80,000 Hours)

𝙈𝙤𝙧𝙚 𝙛𝙧𝙤𝙢 𝙩𝙝𝙚 Аутсорсинг
https://ifanyonebuildsit.com/

Кластеры
00:00 Введение
01:30 01. Мощная идея
05:16 02. Выращено, а не создано
07:27 Инопланетные умы
10:05 03. Новый тип разума
12:49 04. Учимся хотеть
15:35 05. Интриги
18:17 06. Вы не получаете то, чему учитесь
21:56 07. Эксфильтрация
26:04 08. Инструментальная конвергенция
29:49 09. Биологическое оружие
31:52 10. Вымирание
34:19 11. Проклятая проблема?

38:08 12. В пути
41:06 13. Что вы должны делать?

42:51 Титры

Кредиты
Ведущий / Арик Флойд
Сценаристы / Арик Флойд, Чана Мессинджер
Режиссер / Фиби Брукс
Продюсеры / Чана Мессинджер, Фиби Брукс
Координатор производства / Сейдж Бергерсон
Оператор / Ник Дольф
Осветитель / Энди Хейни
Звукорежиссер / Дэвид Дженкинс
Spark / Райан Там
Монтажники / Зак Джозеф, Фиби Брукс
Графика и анимация / Даниэль Ресинто, Мила Граф
Графический дизайн / Ник Мастродди, Эйлбхе Треси

Основано на рассказе «Если кто-то построит это, все умрут» Элиэзера Юдковски и Нейта Соареса.

Ссылки на работы нашей команды смотрите на нашей целевой странице.

Особая благодарность Дину Боллу, Джо Карлсмиту, представителю Биллу Фостеру, Дваркеш Пателю и Нейту Соаресу за их интервью, а также Стивену Адлеру и Алексу Лоусену за техническую поддержку.

И спасибо Белле Форристал, Ардену Колеру, Клариссе Лам, Петру Лебедеву, Гаэтану Селле, Дрю Спарцу, Робу Виблину, Siliconversations, Ciel Creative Space и студии звукозаписи Lighthaven.

Музыкальный диск: MB013J3TISEDSZM, MB01XFG5DRCE6GS

Это видео создано проектом 80,000 Hours. Найти нас можно по адресу https://80000hours.org/our-org/ и подписаться на наш основной канал YouTube здесь:    / @eightythousandhours