Who Does What? Archetypes of Roles Assigned to LLMs During Human-AI Decision-Making

Описание: Кто что делает? Архетипы ролей, назначаемых LLM в процессе принятия решений человеком и ИИ

Этот документ представляет концепцию «архетипов взаимодействия человека и LLM» для критического анализа сложных ролей, назначаемых большим языковым моделям (LLM) в процессе принятия решений человеком и ИИ. Признавая растущее применение LLM в областях с высокими ставками, авторы подчёркивают необходимость понимания социально-технических факторов, формирующих взаимодействие человека и LLM, выходя за рамки изолированных бенчмарк-оценок. Исследование определяет архетипы как повторяющиеся паттерны взаимодействия, структурирующие роли людей и LLM в совместных рабочих процессах принятия решений. В рамках всестороннего обзора литературы и тематического анализа 113 соответствующих статей было выявлено и описано 17 различных архетипов взаимодействия человека и LLM. Эти разнообразные архетипы затем были эмпирически оценены на реальных клинических диагностических случаях для изучения их потенциального влияния на результаты работы LLM и итоги принятия решений. Полученные данные показывают, что выбор конкретного архетипа взаимодействия человека и LLM может существенно влиять на поведение LLM и окончательные решения, сопрягая с важными рисками и соображениями. В заключение документ представляет соответствующие компромиссы и дизайнерские решения, включая контроль над решениями, социальные иерархии и стратегии когнитивного принуждения, предлагая практические рекомендации для ответственного проектирования и развёртывания систем принятия решений человеком и LLM.
#LLM #ВзаимодействиеЧеловекИИ #ПринятиеРешений #ИИ #СоциальноТехническиеСистемы #Архетипы #ПроектированиеСистем #ЧМИ #ЧеловекВКонтуре #КогнитивноеПринуждение

документ - https://arxiv.org/pdf/2602.11924v1
подписаться - https://t.me/arxivpaperu
создано с помощью NotebookLM