Обманчивые невыровненные меза-оптимизаторы? Это более вероятно, чем вы думаете...

Описание: В предыдущем видео объяснялось, почему обученные модели возможно могут выбрать неправильные цели, даже если мы точно их указали. В этом видео объясняется, почему это *вероятно*.

Предыдущее видео: ДРУГАЯ проблема выравнивания ИИ:    • The OTHER AI Alignment Problem: Mesa-Optim...  
Статья: https://arxiv.org/pdf/1906.01820.pdf

Источники в СМИ:
Конец Зе-мира -    • End of Ze World - The 2003 ORIGINAL - 4K!  
Графика FlexClip News

Спасибо моим замечательным спонсорам на Patreon:
  / robertskmiles  

Тимоти Лилликрэп
Кирин
Джеймс
Скотт Уорли
Джеймс Э. Петтс
Чад Джонс
Шевис Джонсон
Джей Джей Хепбойн
Педро А. Ортега
Саид Полат
Крис Канал
Джейк Эрлих
Келлен Ласк
Франсиско Толмаски
Майкл Андрегг
Дэвид Рид
Питер Рольф
Тиг Лассер
Эндрю Блэкледж
Фрэнк Марсман
Брэд Брукшир
Кэм МакФарлейн
Крейг Медериос
Джон Райт
КапитанОчевидный
Джейсон Хайз
Фил Мойер
Эрик де Брёйн
Алек Джонсон
Клеменс Арбессер
Людвиг Шуберт
Аллен Фор
Эрик Джеймс
Мэтисон Бэйли
Кит Врейд
Джугетье, голландский
Оуэн Кэмпбелл-Мур
Ацин Эспино-Мурнан
Джонни Вон
Джейкоб Ван Бюрен
Джонатан Р.
Ингви Гаутссон
Майкл Греве
Том О'Коннор
Лора Олдс
Джон Холлидей
Пол Хоббс
Йерун Де Дау
Лупулеаса Ионуц
Купер Лоутон
Тим Нилсон
Эрик Скаммелл
Игорь Келлер
Бен Глэнтон
анул Кумар Синха
Тор
Дункан Орр
Уилл Глинн
Тайлер Херрманн
Иэн Манро
Джошуа Дэвис
Жером Больё
Натан Фиш
Питер Хозак
Тарас Бобровицкий
Джереми
Васько Ричард
Бенджамин Уоткин
Эндрю Харкорт
Люк Ричи
Николас Гайетт
Джеймс Хинчклифф
12tone
Оливер Габрика
Крис Бичем
Закари Гидвиц
Никита Кирий
Эндрю Шрайбер
Стив Трамберт
Марио Лоис
Брэйден Тисдейл
Эбигейл Новик
Сергей Уваров
Бела Р.
Минк
Крис Риммер
Эдмунд Фокшанер
Грант Паркс
Дж.
Нейт Гарднер
Джон Асланиды
Мара
ЭрикБлн
ДраконОвца
Ричард Ньюкомб
Дэвид Морган
Фионн
Дмитрий Афанасьев
Марсель Уорд
Эндрю Вейр
Кабс
Милош Вержбицкий
Тендайи Мавуше
Джейк Фиш
Wr4thon
Мартин Оттосен
Роберт Хильдебрандт
Энди Кобре
Кес
Дарко Сперак
Роберт Вальдимарссон
Марко Тирабоски
Майкл Кухиница
Фрейзер Кейн
Робин Шарф
Клемен Славянский
Патрик Хендерсон
октябрь todo22
Мелиса Костшевски
Хендрик
Дэниел Мюнтер
Алекс Кнаут
Каспер
Ян Рейес
Джеймс Фаукс
Том Сэйер
Лен
Алан Бандурка
Бен Х
Саймон Пилкингтон
Даниэль Кокотайло
Диагональ
Андреас Бломквист
Берталан Бодор
Цаннхайм
Дэниел Эйкхардт
lyon549
14zРобот
Иван
Джейсон Черри
Игорь (Кероги) Костенко
ib_
Томас Дингеманс
Стюарт Олдритт
Александр Браун
Девон Бернард
Тед Стоукс
Джеймс Хелмс
Йеспер Андерссон
ДипФридДжиф
Крис Динант
Рафаэль Леви
Йоханнес Вальтер
Мэтт Стэнтон
Гаррет Маринг
Энтони Чиу
Гейт Тарауна
Джулиан Шульц
Звездчатый шестигранник
Калеб
Скотт Витери
Клэй Аптон
Конор Комиконор
Михаэль Роштер
Георг Грасс
Исак
Маттиас Хёльцль
Джим Ренни
Эдисон Франклин
Пирс Колдервуд
Михаил Тихомиров
Ричард Отто
Мэтт Брауэр
Джейсон Букер
Матеуш Кшачек
Артем Гончаров
Майкл Уолтерс
Томаш Глинецки
Михай Бараш
Марк Вудворд
Ранзир
Нил Палмере
Раджин Набид
Кристиан Эппле
Кларк Шефер
Оливье Куту
Йестин Блисдейл-шеперд
MojoExMachina
Марек Бельски
Люк Петерсон
Эрик Элдард
Эрик Рогстад
Эрик Карлсон
Кейлеб Ларсон
Макс Чизвик
Арон
Дэвид де Клоэт
Сэм Фридо
slindenau
A21
Йоханнес Линдмарк
Николас Тёрнер
Теро К
Валерио Галиени
ФЯннис
М Я
Райан В. Аммонс
Людвиг Криннер
Имя этого человека слишком сложно произнести
КП
конталлумноги
Эверардо Гонсалес Авалос
Кнут Лёклингхольм
Эндрю Макнайт
Андрей Трифонов
Алекс Д
Взаимная информация


  / robertskmiles