컴퓨터 비전 XAI 포괄적 분석

설명 가능한 인공지능(XAI)은 복잡한 모델의 출력을 인간이 이해할 수 있도록 연결하는 것을 목표로 하며, 컴퓨터 비전 분야에서 그 중요성이 커지고 있습니다. 본 연구는 귀인 기반, 활성화 기반, 섭동 기반, 트랜스포머 기반의 네 가지 주요 XAI 방법론을 선별하여 비교 분석합니다. 이는 광범위한 문헌 검토를 통해 대표적인 접근 방식들을 집중적으로 다룹니다. 각 방법론은 고유한 방식으로 모델의 의사결정을 해석합니다. Grad-CAM과 같은 귀인 기반 방식은 기울기와 특징 활성화를 활용하여 입력 이미지의 핵심 영역을 강조합니다. 활성화 기반 방식은 내부 뉴런의 반응을 분석하여 계층적 특징 표현을 밝히고, RISE와 같은 섭동 기반 방식은 모델의 내부 접근 없이 입력 변형을 통해 특징 중요도를 평가합니다. 트랜스포머 기반 방식은 자기 주의 메커니즘을 통해 전역적인 정보 흐름을 추적하여 해석 가능성을 제공합니다. 이 방법론들은 충실도, 국소화 정확도, 효율성, 의료 영상 주석과의 중첩도 등의 지표를 사용하여 평가되었습니다. 또한, XAI 기법의 다양성을 반영하는 계층적 분류 체계를 제안합니다. 분석 결과, RISE는 가장 높은 충실도를 보였으나 계산 비용이 높아 실시간 적용에 한계가 있었습니다. 트랜스포머 기반 방식은 의료 영상 분야에서 높은 IoU 점수를 기록했으나, 주의 맵 해석에 신중함이 요구됩니다. 이러한 발견은 해석 가능성과 효율성 사이의 균형을 맞추는 상황 인지적 평가 및 하이브리드 XAI 방법론의 필요성을 강조합니다. 본 연구는 윤리적, 실용적 과제를 논의하며 표준 벤치마크와 도메인별 튜닝의 중요성을 역설합니다.