2026년 29주차 · 급상승 연구 주제
컴퓨터 과학 · Explainable Artificial Intelligence (XAI)
연 2,368 → 7,029편
분야 평균 대비 +180%p
AI 모델이 복잡해지고 의료, 금융 등 중요 분야에 적용되면서, AI의 의사결정 과정을 이해하고 신뢰성을 확보하는 것이 중요해졌기 때문입니다.
출판량은 OpenAlex 전수 데이터를 최근 12개월과 직전 12개월로 나눠 비교한 값이에요. 분야 전체가 함께 커지는 착시를 빼기 위해 분야 중앙값 성장률을 차감한 초과 성장(+180%p)으로 순위를 매겼어요.
학부·석사 수준에서 실제로 착수 가능한 스케일로 좁힌 방향이에요. 마음에 드는 걸 고르면 카라멜 조교가 이어서 구체화해 줘요.
특정 이미지 분류 모델의 예측 근거를 시각화하는 기법 개발
아이디에이션2자연어 처리 모델의 특정 단어 선택 이유를 설명하는 방법론 연구
아이디에이션3XAI 기법이 사용자의 AI 시스템 신뢰도에 미치는 영향 분석
아이디에이션인용 속도와 최신성으로 고른 논문이에요. 한국어 요약을 먼저 보고, 원문은 8개 섹션 풀 분석으로 이어갈 수 있어요.
Paper 6 — Multi-Layer Cross Verification in the AGI Era: Role Feasibility, Output Reference, and Pre-Transaction Validation
본 연구는 AGI(인공 일반 지능) 시대에 AI 및 AGI 시스템의 출력을 검증하기 위한 구조적 방법론인 '다층 교차 검증'을 제안한다. 기존 AGI 구조 정렬 시리즈의 1~5편을 기반으로, 본 논문은 AI+AGI 결과물이 역할, 책임, 권한 범위, 증거 참조, 보존 맥락 또는 사전 거래 조건과 연계되기 전에 어떻게 교차 검증될 수 있는지 다룬다. 제안하는 프레임워크는 고정된 검증 체크리스트를 제시하지 않는다. 대신, 검증 계층의 수와 구성은 출력 유형, 도메인 위험, 역할 민감도, 권한 경계, 거래 관련성, 증거 요구사항 및 보…
What large language models know and what people think they know
인공지능 시스템, 특히 거대 언어 모델(LLM)이 의사결정 과정에 깊이 통합되면서, 그 결과물에 대한 신뢰는 매우 중요해지고 있습니다. LLM이 인간의 신뢰를 얻으려면 예측의 정확도를 정확하게 평가하고 전달하는 능력이 필수적입니다. 기존 연구는 LLM의 내부 확신도에 초점을 맞췄으나, 사용자에게 불확실성을 얼마나 효과적으로 전달하는지에 대한 이해는 부족했습니다. 본 연구는 LLM이 생성한 답변에 대한 인간의 확신도와 모델의 실제 확신도 간의 차이인 '보정 격차'와, 인간과 모델이 정답과 오답을 얼마나 잘 구별하는지를 나타내는 '판…
Recent Emerging Techniques in Explainable Artificial Intelligence to Enhance the Interpretable and Understanding of AI Models for Human
설명 가능한 인공지능(XAI)의 발전에도 불구하고, 복잡한 AI 모델의 해석과 이해에는 여전히 어려움이 있어 광범위한 채택에 제약이 있습니다. 특히 AI 모델의 투명성과 해석 가능성 부족은 사용자 신뢰를 저해하고 중요한 의사결정 과정에 통합되는 것을 방해합니다. 본 연구는 이러한 문제를 해결하기 위해 XAI의 최근 부상하는 기술들을 탐색합니다. 연구는 AI 모델의 해석 가능성을 높이고 인간이 의사결정 과정을 더 잘 이해하도록 돕는 것을 목표로 합니다. 이를 위해 사후 설명, 모델 투명성 방법, 대화형 시각화 기술 등 다양한 방법론…
