신경 확률 회로: 논리 추론 기반 설명 가능한 예측

최근 딥러닝 모델은 다양한 분야에서 뛰어난 성능을 보이지만, 그 작동 원리가 불투명하여 해석 가능성이 부족하다는 비판을 받습니다. 사후 설명 기법들은 이러한 문제를 해결하려 하지만, 블랙박스 모델을 정확히 반영하지 못해 오해를 불러일으키거나 불완전한 설명을 제공하는 한계가 있습니다. 본 연구는 이러한 문제를 극복하기 위해 본질적으로 투명한 모델 아키텍처인 신경 확률 회로(Neural Probabilistic Circuits, NPC)를 제안합니다. NPC는 속성 인식 모델과 확률 회로 기반의 태스크 예측기로 구성됩니다. 속성 인식 모델은 다양한 속성의 확률을 예측하고, 태스크 예측기는 인식된 속성에 대한 논리적 추론을 통해 클래스를 예측합니다. NPC 훈련을 위해 속성 인식, 회로 구성, 공동 최적화의 3단계 학습 알고리즘을 도입했습니다. 이론적으로 NPC의 오류는 각 모듈 오류의 선형 결합으로 상한이 정해짐을 증명했습니다. 또한, NPC의 해석 가능성을 입증하기 위해 가장 확률 높은 설명과 반사실적 설명을 모두 제공합니다. 4가지 벤치마크 데이터셋에 대한 실험 결과, NPC는 기존 종단간 블랙박스 모델과 경쟁력 있는 성능을 달성하면서도 향상된 해석 가능성을 제공하여, 해석 가능성과 성능 사이의 균형을 성공적으로 맞추는 것을 확인했습니다. NPC는 복잡한 의사결정 과정에서 모델의 예측을 이해하고 신뢰해야 하는 STEM 분야 연구자 및 실무자에게 유용할 것입니다. 특히, 의료 진단이나 자율 주행과 같이 높은 신뢰성과 설명 가능성이 요구되는 분야에 기여할 수 있습니다.