경량 학습형 데이터 증강으로 자기 지도 학습 강화

자기 지도 학습에서 데이터 증강은 학습된 표현의 품질과 다양성에 큰 영향을 미치므로 핵심적인 역할을 한다. 그러나 기존 자기 지도 학습 방식 대부분은 고정된 확률적 증강 파이프라인에 의존하며, 적응형 대안들은 정책 탐색, 적대적 학습 또는 추가 최적화 절차에 따른 높은 비용을 요구한다. 본 논문에서는 자기 지도 시각적 표현 학습을 위한 ELM(Extreme Learning Machines) 기반의 경량 학습형 증강 프레임워크를 제안한다. 제안된 모듈은 이미지 의존적 변환 매개변수를 예측하고 이를 미분 가능한 증강 연산자를 통해 적용하여, 최소한의 추가 연산 오버헤드로 표현 모델과 공동 최적화를 가능하게 한다. 이 프레임워크는 SimCLR, BYOL, SimSiam 세 가지 대표적인 자기 지도 학습 방식에 통합되었다. CIFAR-10, CIFAR-100, Tiny ImageNet 데이터셋에 대한 광범위한 실험 결과, 제안된 방법은 대부분의 설정에서 기준선 대비 선형 평가 성능을 일관되게 향상시켰다. 특히 CIFAR 데이터셋에서 주목할 만한 성능 향상을 보였으며, 더 어려운 Tiny ImageNet 벤치마크에서도 효과적이었다. 클래스별 난이도 분석을 통해 제안된 증강 전략이 어려운 클래스에서 성능을 크게 개선하여, 전반적인 경쟁력 있는 성능을 유지하면서도 까다로운 범주에 대한 강력한 견고성을 보여주었다. 이 결과는 경량 학습형 증강이 다양한 프레임워크와 데이터셋에서 자기 지도 표현 학습을 효과적으로 향상시킬 수 있음을 입증한다.