[Open DMQA Seminar] Unsupervised Domain Generalization

Описание: Domain generalization (DG)은 여러 source domain에서 학습한 모델이 학습 시 보지 못한 unseen target domain에서도 잘 작동하도록 하는 것을 목표로 한다. 실제 환경에서는 학습 데이터와 테스트 데이터 분포가 다른 경우가 빈번하게 발생하며(ex: 서로 다른 병원 의료 영상, 다양한 촬영 조건의 이미지 등), 이러한 분포 차이로 인해 모델 성능이 크게 저하될 수 있다. DG는 이러한 문제를 해결하여 다양한 환경에서도 안정적으로 작동하는 모델을 학습하는 것을 목표로 한다. 그러나 기존 DG 방법들은 여러 source domain의 레이블이 있는 데이터에 의존한다. 레이블이 있는 데이터 수집에는 비용과 시간이 소요되는 반면, 레이블이 없는 데이터는 상대적으로 쉽게 확보할 수 있다. Unsupervised domain generalization (UDG)은 이러한 상황을 반영하기 위한 연구 분야이다. UDG는 source domain의 unlabeled data를 활용하여 사전학습을 수행한 후, 소량 labeled data로 모델 조정을 하여 새로운 target domain에 대한 일반화 성능을 확보한다. 이번 세미나에서는 UDG의 문제 정의 및 기본 개념과 함께, 다량의 unlabeled data를 효과적으로 활용하여 labeled data 부족 문제를 해결하고 분포 차이에 강건한 모델을 학습시키는 방법론들을 소개한다.

참고자료:
[1] Koh, P. W., Sagawa, S., Marklund, H., Xie, S. M., Zhang, M., Balsubramani, A., ... & Liang, P. (2021, July). Wilds: A benchmark of in-the-wild distribution shifts. In International conference on machine learning (pp. 5637-5664). PMLR.
[2] Zhang, X., Zhou, L., Xu, R., Cui, P., Shen, Z., & Liu, H. (2022). Towards unsupervised domain generalization. In Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (pp. 4910-4920).
[3] Zhang, A., Wang, H., Wang, X., & Chua, T. S. (2024). Disentangling Masked Autoencoders for Unsupervised Domain Generalization. In European Conference on Computer Vision (pp. 126-151). Cham: Springer Nature Switzerland.
[4] Gulrajani, I., & Lopez-Paz, D. (2020). In search of lost domain generalization. arXiv preprint arXiv:2007.01434.