Инсайдер в сфере ИИ ПРЕДУПРЕЖДАЕТ: вы даже не представляете, какая волна ИИ надвигается

Описание: Элиэзер Юдковски, посвятивший 30 лет проблеме безопасности ИИ, делает твердое предсказание: если кто-либо создаст сверхинтеллект, используя методы, хотя бы отдаленно напоминающие современные, все погибнут. Он говорит, что Джеффри Хинтон, лауреат Нобелевской премии, изобретатель глубокого обучения, специально покинувший Google, чтобы свободно высказываться, оценивает вероятность катастрофы в 25-50 процентов, и Юдковски считает это слишком оптимистичным прогнозом.

Он предупреждает, что современные системы ИИ уже создают функциональные вирусы с нуля, предсказывают сворачивание белков, и что сверхинтеллект просто объединит эти возможности для создания собственной самовоспроизводящейся биологической инфраструктуры, независимой от человечества.

Он сравнивает самооправдание индустрии ИИ с компаниями, производящими этилированный бензин и сигареты, говорит, что возможности развиваются на порядки быстрее, чем работа по выравниванию, и описывает единственный исторический прецедент для предотвращения чего-то подобного: человечество решило не использовать ядерное оружие, и это является образцом.

📚 Источники, цитируемые в этом видео:

Элиэзер Юдковски, LessWrong – публикации об искусственном интеллекте https://lesswrong.com/users/eliezer_y...

Институт исследований машинного интеллекта, технические исследования https://intelligence.org/research

Джеффри Хинтон, Нобелевская премия по физике 2024 года – Нобелевский комитет https://nobelprize.org/prizes/physics...

Институт будущего жизни, заявление о катастрофических рисках, связанных с ИИ https://futureoflife.org/cause-area/a...

⚠️ ОТКАЗ ОТ ОТВЕТСТВЕННОСТИ: Этот канал предоставляет комментарии и анализ по ИИ исключительно в образовательных и информационных целях. Мнения, выраженные гостями, являются их собственными и не отражают позицию какой-либо компании или учреждения. Мы призываем зрителей обращаться к нескольким источникам и делать собственные выводы.

#ai #agi #искусственныйинтеллект