Caramel LabCaramel Lab
#

인공지능 신뢰성

2편의 한국어 분석 — 최신순으로 정렬했어요

컴퓨터 과학발표 2025.12· 31최근 1년 31회

심층학습 불확실성 정량화 기법 연구

심층 신경망(DNN)은 컴퓨터 비전, 자연어 처리 등 다양한 분야에서 탁월한 성능을 보이지만, 예측의 정확도와 무관하게 과신하는 경향이 있어 자율주행, 의료 진단 등 고위험 응용 분야에서 심각한 문제를 야기할 수 있습니다. 이러한 문제 해결을 위해 DNN 예측의 신뢰도를 평가하는 불확실성 정량화(UQ) 연구의 중요성이 커지고 있습니다. 기존 UQ 연구들은 주로 신경망 아키텍처나 베이지안 공식에 따라 방법론을 분류하여, 각 방법이 다루는 불확실성 원천을 간과함으로써 실제 적용 시 적절한 기법 선택에 어려움이 있었습니다. 본 연구는 …

컴퓨터 과학발표 2025.12· 20최근 1년 19회

신경-기호 AI: 신뢰성, 불확실성, 개입 가능성

의료, 자율 시스템, 금융 등 고위험 분야에서 인공지능(AI) 시스템의 활용이 증가함에 따라, AI의 신뢰성 확보가 매우 중요해지고 있습니다. 본 논문은 신경망의 학습 능력과 기호 AI의 추론 강점을 결합한 하이브리드 패러다임인 신경-기호 AI를 신뢰성, 불확실성 정량화(UQ), 개입 가능성이라는 세 가지 핵심 차원에서 종합적으로 탐구합니다. 순수 데이터 기반의 '블랙박스' 모델이 분포 변화, 모호한 입력, 인간 감독 처리에서 한계를 보이는 반면, 신경-기호 시스템은 향상된 해석 가능성, 검증 가능성, 제어 능력을 제공하여 실제 …

연구 트렌드로 돌아가기