신경-기호 AI: 신뢰성, 불확실성, 개입 가능성

의료, 자율 시스템, 금융 등 고위험 분야에서 인공지능(AI) 시스템의 활용이 증가함에 따라, AI의 신뢰성 확보가 매우 중요해지고 있습니다. 본 논문은 신경망의 학습 능력과 기호 AI의 추론 강점을 결합한 하이브리드 패러다임인 신경-기호 AI를 신뢰성, 불확실성 정량화(UQ), 개입 가능성이라는 세 가지 핵심 차원에서 종합적으로 탐구합니다. 순수 데이터 기반의 '블랙박스' 모델이 분포 변화, 모호한 입력, 인간 감독 처리에서 한계를 보이는 반면, 신경-기호 시스템은 향상된 해석 가능성, 검증 가능성, 제어 능력을 제공하여 실제 배포에 유망한 대안이 됩니다. 본 연구는 신뢰성 모델링, 불확실성 정량화, 개입 가능성 구현을 위한 최신 기술들을 체계적으로 검토합니다. 나아가 논리, 확률, 학습이 투명하고 적응적인 추론을 지원하기 위해 통합 또는 모듈형 아키텍처로 어떻게 결합될 수 있는지 탐색합니다. 이를 통해 통계 학습과 기호 추론을 연결하여 신뢰할 수 있고, 해석 가능하며, 상호작용 가능한 AI 시스템을 구축하는 방법에 대한 구조화된 이해를 제공하고자 합니다. 마지막으로 신경-기호 AI를 신뢰할 수 있는 패러다임으로 발전시키기 위한 현재의 도전 과제와 주요 연구 기회를 제시합니다. 본 조사는 연구자와 실무자가 견고하고, 불확실성을 정량화하며, 개입 가능한 AI 시스템을 설계하는 데 필요한 지식을 제공하는 것을 목표로 합니다.