설명 가능한 AI: 내재적 설명부터 LLM까지

최근 인공지능(AI)은 놀라운 성공을 거두고 있지만, 그 의사결정 과정이 불투명하여 이해관계자들이 AI의 동작을 이해하고 해석하며 설명하기 어렵다는 문제가 있습니다. 이러한 한계는 머신러닝 시스템에 대한 신뢰를 저해하고, 특히 헬스케어나 자율주행과 같은 미션 크리티컬 분야에서 실제 적용을 주저하게 만듭니다. 설명 가능한 AI(XAI) 기술은 머신러닝 모델의 설명 가능성과 해석 가능성을 높여 사용자가 의사결정의 근거를 파악하고 바람직하지 않은 동작을 방지할 수 있도록 돕습니다. 본 종합 연구는 내재적으로 해석 가능한 모델부터 대규모 언어 모델(LLM)을 포함한 다양한 블랙박스 모델의 해석 가능성을 달성하기 위한 최신 접근 방식에 이르기까지, 설명 가능한 AI 방법론의 발전을 상세히 다룹니다. 또한, LLM 및 비전-언어 모델(VLM) 프레임워크를 활용하여 다른 머신러닝 모델의 설명 가능성을 자동화하거나 개선하는 XAI 기술을 검토합니다. 특히 LLM과 VLM을 해석 방법으로 활용하면 모델의 의사결정과 동작에 대한 고수준의 의미론적인 설명을 제공할 수 있습니다. 본 논문은 최첨단 방법론의 과학적 원리, 장단점을 강조하고 개선이 필요한 다양한 영역을 제시합니다. 마지막으로 XAI의 주요 과제와 향후 연구 방향을 논의합니다.