Назанин Андалиби — Эмоциональный ИИ, утопические обещания, антиутопическая реальность

Описание: Докладчик: Назанин Андалиби, Мичиганский университет
Название: Эмоциональный ИИ: утопические обещания, антиутопическая реальность

Аннотация: Эмоциональный ИИ, раздел аффективных вычислений, обещает алгоритмически обнаруживать, определять или предсказывать эмоции, настроения и психические состояния людей. Эти системы быстро распространяются от развлекательных и потребительских технологий до образования, здравоохранения и рабочего места — несмотря на отсутствие регулирования в Соединенных Штатах и ​​слабые регуляторные усилия в Европейском Союзе. Основываясь на серии эмпирических исследований с участием различных социальных групп, а также на критическом анализе технологий эмоционального ИИ, научных обзорах и патентах, в этом докладе рассматривается, как эмоциональный ИИ усиливает существующее неравенство и порождает новые формы вреда. Вместо того чтобы способствовать благополучию, справедливости или улучшению условий жизни, эмоциональный ИИ непропорционально обременяет маргинализированные сообщества, углубляет уязвимость, основанную на идентичности, и усугубляет те самые структурные проблемы, которые, по утверждению его сторонников, он должен решить.


Я утверждаю, что искусственный интеллект, основанный на эмоциях, — это не просто техническая инновация; это социотехнический проект, укоренившийся во власти, прибыли, управлении и регулировании эмоциональной жизни. Его внедрение опирается на повсеместное наблюдение, принудительный эмоциональный труд и систематическое отсутствие осмысленного согласия в условиях неравных властных отношений. В заключение я обсуждаю, почему данные об эмоциях должны признаваться и рассматриваться как крайне конфиденциальные в исследованиях, практике и политике; почему технические решения не могут устранить основные недостатки искусственного интеллекта, основанного на эмоциях; и как могут выглядеть более справедливые альтернативы для работников и других субъектов данных, ориентирующихся во все более, и зачастую сомнительно, «эмоционально-ориентированных» социотехнических средах.

Биография: Назанин Андалиби — доцент Школы информатики Мичиганского университета (UM), где она также является ассоциированным преподавателем Института цифровых исследований и Центра этики, общества и вычислительной техники. Ее отмеченные наградами исследования публикуются в ведущих изданиях, включая ACM CHI, CSCW и TOCHI. Она получила 1,16 миллиона долларов финансирования от Национального научного фонда, включая престижную премию NSF CAREER. Влияние её работы на политику и практику отражено в её цитировании в многочисленных политических документах, её выступлениях по приглашению в Федеральной торговой комиссии и её программной речи на ModSummit Reddit. Она также входит в редакционную коллегию журнала ACM Transactions on Computer-Human Interaction и регулярно участвует в работе организационных комитетов конференций.

Андалиби, специалист по критическому анализу социальных вычислений и взаимодействия человека с компьютером (HCI), изучает, как маргинальность переживается, проявляется и формируется посредством социотехнических систем, таких как искусственный интеллект и социальные сети. Центральное направление её работы — исследование вопросов конфиденциальности, этики, справедливости и политики, связанных с использованием эмоционального ИИ в контекстах с высокими ставками, включая рабочие места, процессы найма, социальные сети и здравоохранение. Ее исследования демонстрируют, как искусственный интеллект, основанный на эмоциях, усиливает существующее неравенство, создает новые формы вреда и непропорционально сильно обременяет маргинализированные сообщества, углубляя уязвимость, основанную на идентичности, и укрепляя те самые структурные проблемы, которые, по утверждению его сторонников, он призван решить.