8편의 한국어 분석 — 최신순으로 정렬했어요
최근 인공지능(AI)은 놀라운 성공을 거두고 있지만, 그 의사결정 과정이 불투명하여 이해관계자들이 AI의 동작을 이해하고 해석하며 설명하기 어렵다는 문제가 있습니다. 이러한 한계는 머신러닝 시스템에 대한 신뢰를 저해하고, 특히 헬스케어나 자율주행과 같은 미션 크리티컬 분야에서 실제 적용을 주저하게 만듭니다. 설명 가능한 AI(XAI) 기술은 머신러닝 모델의 설명 가능성과 해석 가능성을 높여 사용자가 의사결정의 근거를 파악하고 바람직하지 않은 동작을 방지할 수 있도록 돕습니다. 본 종합 연구는 내재적으로 해석 가능한 모델부터 대규모…
설명 가능한 AI(XAI)는 인공지능 모델의 작동 방식을 사람이 이해할 수 있도록 설명하는 기술입니다. 최근 XAI의 초점은 대규모 언어 모델(LLM) 설명으로 확장되고 있으며, 이는 XAI 방법론의 중요한 변화를 요구합니다. LLM의 복잡성과 고도화된 기능으로 인해 기존 XAI 방법론을 직접 적용하기 어렵고, LLM의 활용이 다양해지면서 XAI의 역할이 단순히 '블랙박스'를 여는 것을 넘어 LLM의 생산성과 실제 적용 가능성을 적극적으로 향상시키는 방향으로 전환되고 있기 때문입니다. 본 연구는 LLM 시대의 '사용 가능한 XAI…
최근 의료 분야에서 인공지능(AI) 도구의 활용이 증가하면서, AI 채택에 대한 논의가 활발해지고 있습니다. 특히 AI 시스템의 투명성과 신뢰성을 높이는 것을 목표로 하는 설명 가능한 AI(XAI)에 대한 관심이 커지고 있습니다. 그러나 일부 전문가들은 XAI 기술의 신뢰성에 의문을 제기하며, 의료 가이드라인 및 표준에 XAI를 포함하는 것에 우려를 표하고 있습니다. 본 논문은 이러한 비판적 시각을 재검토하고, XAI의 유용성에 대한 균형 잡힌 관점을 제시합니다. 특히 AI의 임상 적용이 갖는 특수성을 강조하며, 이를 의료 개입의…
기계 학습 모델의 투명성은 해석 가능한 모델과 설명 가능한 결과를 촉진하는 중요한 비기능적 요구사항입니다. 그러나 선형, 규칙 기반, 의사결정나무와 같은 해석 가능한 분류 모델은 딥러닝이나 앙상블 방법론과 같은 더 정확하지만 복잡한 학습 패러다임에 의해 성능이 저해되는 경향이 있습니다. 특히 표 형식 데이터 분류에서는 랜덤 포레스트나 XGBoost 같은 트리 앙상블 기반 모델이 딥러닝 모델과 비교하여 여전히 경쟁력이 있으며 종종 선호되지만, 학습된 모델의 복잡성으로 인해 예측 설명 가능성 문제가 발생합니다. 기존 해결책은 특성 중…
설명 가능한 인공지능(XAI) 분야는 모델의 투명성과 신뢰성 요구에 부응하여 발전해 왔습니다. 그러나 최근 연구들은 원시 특징(raw features)을 활용한 설명의 한계를 지적하며, 사용자 이해도를 높이는 설명의 필요성을 강조하고 있습니다. 이러한 문제의식 아래, 개념 기반 설명 가능한 인공지능(C-XAI) 방법론에 대한 연구가 활발히 진행되고 있으나, 아직 통일된 분류 체계와 명확한 분야 정의는 부재합니다. 본 연구는 C-XAI 접근 방식에 대한 포괄적인 검토를 통해 이러한 간극을 메웁니다. 다양한 개념과 설명 유형을 식별하…
인공지능(AI)은 임상 의사결정 지원 시스템(CDSS)을 크게 향상시킬 잠재력이 있지만, AI 모델의 불투명성은 임상 현장에서의 채택을 가로막는 주요 장벽입니다. 이는 주로 해석 가능성 및 신뢰 문제에서 기인합니다. 설명 가능한 AI(XAI)는 모델의 추론 과정을 임상의가 이해할 수 있도록 함으로써 이러한 격차를 해소하려 하지만, 기존 XAI 솔루션은 실제 임상가의 요구사항, 워크플로우 통합, 유용성 문제를 제대로 다루지 못했습니다. 본 연구는 XAI를 CDSS에 적용하는 데 있어 지속되는 과제들(예: 부적절한 설명 방법, 최적화…
수질 지수(WQI)의 효과적인 예측은 수자원 관리 및 공중 보건 안전에 매우 중요하다. 본 연구는 스택형 회귀 앙상블 모델링과 설명 가능한 인공지능(XAI)의 한 형태인 SHAP(Shapley Additive explanations)를 통합하여 WQI 예측을 위한 새로운 접근 방식을 제안한다. 모델은 인도 강에서 수집된 1,987개 수질 샘플(2005-2014) 데이터셋을 활용하여 개발되었다. XGBoost, CatBoost, Random Forest, Gradient Boosting, Extra Trees, AdaBoost의 6…
인공지능, 특히 딥러닝 모델은 방대한 데이터 처리 및 복잡한 패턴 학습 능력으로 다양한 산업 분야에서 광범위하게 활용되고 있습니다. 그러나 이러한 모델의 설명 불가능성은 의사결정 투명성이 필수적인 금융 및 헬스케어와 같은 중요 분야에서의 활용에 심각한 우려를 낳고 있습니다. 본 논문은 금융 분야에서 딥러닝 모델의 설명 가능성을 향상시키기 위한 다양한 방법론들을 비교 분석합니다. 설명 가능한 AI(XAI) 방법론들을 특성에 따라 분류하고, 각 방법론의 장단점을 심층적으로 검토합니다. 연구 결과, XAI 도입 시 발생할 수 있는 주…
