설명 가능한 AI 기반 스마트 제조 품질 모니터링

제조 분야에서 인공지능(AI)은 자동 검사, 예측 유지보수, 상태 모니터링 등에 활발히 활용되고 있습니다. 그러나 많은 AI 모델의 불투명한 '블랙박스' 특성은 산업 현장의 신뢰, 수용, 규제 준수에 큰 걸림돌이 됩니다. 본 연구는 AI 모델의 성능 최적화나 비교보다는, 제조 분야에 배포된 AI 시스템의 내부 추론 과정을 체계적으로 해석하고 설명하기 위해 설명 가능한 인공지능(XAI) 기술을 어떻게 활용할 수 있는지 탐구합니다. 이를 위해 설명 가능성 중심의 통합 프레임워크를 제안하고, 이종 데이터 양식과 학습 패러다임을 포함하는 세 가지 대표적인 제조 활용 사례에 적용했습니다. 주조 결함의 비전 기반 분류, 금속 표면 결함의 비전 기반 위치 파악, 기계 상태 모니터링을 위한 비지도 음향 이상 감지가 그것입니다. 모델 아키텍처, 작업 공식화, 감독 전략에 관계없이 XAI 방법이 일관되고 물리적으로 의미 있는 설명을 제공할 수 있는지 평가하기 위해 다양한 블랙박스 의사결정 모델을 의도적으로 사용했습니다. Grad-CAM, Integrated Gradients, Saliency Maps, Occlusion Sensitivity, SHAP 등 다양한 XAI 기법을 적용하여 시각 및 음향 도메인 전반에 걸쳐 모델의 주의 집중, 특징 관련성, 의사결정 요인을 분석했습니다. 그 결과, XAI가 모델 동작과 물리적으로 해석 가능한 결함 및 고장 메커니즘 간의 정렬을 가능하게 하여 투명하고 감사 가능하며 인간이 이해할 수 있는 의사결정을 지원함을 입증했습니다. 본 연구는 설명 가능성을 사후 시각 보조 도구가 아닌 핵심 운영 요구사항으로 제시함으로써, 인더스트리 5.0 원칙, 휴먼-인-더-루프 감독, 그리고 투명하고 책임감 있는 산업 AI 시스템에 대한 새로운 기대에 부합하는 제조 분야 신뢰할 수 있는 AI를 위한 교차 모달 프레임워크를 제공합니다.