LLM 시대, 설명 가능한 AI 활용 전략

설명 가능한 AI(XAI)는 인공지능 모델의 작동 방식을 사람이 이해할 수 있도록 설명하는 기술입니다. 최근 XAI의 초점은 대규모 언어 모델(LLM) 설명으로 확장되고 있으며, 이는 XAI 방법론의 중요한 변화를 요구합니다. LLM의 복잡성과 고도화된 기능으로 인해 기존 XAI 방법론을 직접 적용하기 어렵고, LLM의 활용이 다양해지면서 XAI의 역할이 단순히 '블랙박스'를 여는 것을 넘어 LLM의 생산성과 실제 적용 가능성을 적극적으로 향상시키는 방향으로 전환되고 있기 때문입니다. 본 연구는 LLM 시대의 '사용 가능한 XAI(Usable XAI)' 개념을 제안합니다. 구체적으로 XAI가 LLM 기반 AI 시스템을 어떻게 설명하고 개선할 수 있는지, 그리고 LLM의 대화 및 생성 능력을 활용하여 XAI 기술을 어떻게 발전시킬 수 있는지를 분석합니다. 이를 위해 10가지 전략을 제시하고, 각 전략별 핵심 기술과 관련 도전 과제를 논의합니다. 또한, 실제 사례 연구를 통해 설명을 얻고 활용하는 방법을 구체적으로 보여줍니다. 이 연구는 LLM의 복잡성을 해소하고 실제 적용을 촉진하며, 상호 보완적인 관계를 통해 XAI와 LLM 모두의 발전을 도모하는 데 기여할 것입니다.