Caramel LabCaramel Lab
#

AI신뢰성

2편의 한국어 분석 — 최신순으로 정렬했어요

컴퓨터 과학발표 2026.08· 9최근 1년 9회

자율 AI 운영 거버넌스 아키텍처 LATTICE

고위험 운영 환경에 자율 AI 에이전트를 배치하려면 조직의 승인이 필수적이지만, 현재 대부분의 프레임워크는 이러한 승인 결정에 적합한 종단 간 검증 가능한 거버넌스 메커니즘을 제공하지 못합니다. 본 연구는 이러한 문제를 해결하기 위해 거버넌스 중심 아키텍처인 LATTICE(Layered Agentic Triad Topology for Intelligent Coordinated Execution)를 제안합니다. LATTICE는 AI 자체의 신뢰성보다는 AI를 제어하는 아키텍처의 신뢰성을 검증하는 방식으로 접근하여, 모델 동작에 대한 …

컴퓨터 과학발표 2025.10· 27최근 1년 27회

사이버보안 설명 가능한 AI: 블랙박스 해독

최근 인공지능(AI)은 일상생활 전반에 걸쳐 광범위하게 활용되고 있으며, 머신러닝(ML) 및 딥러닝(DL) 모델을 활용한 다양한 기술이 빠르게 발전하고 있습니다. 그러나 이러한 모델들은 본질적으로 복잡하여 의사결정 과정에 대한 해석 가능한 설명을 제공하지 못하는 '블랙박스'로 간주됩니다. 특히 사이버보안 분야에서는 설명 불가능한 시스템이 중요한 결정을 내릴 때 명백한 위험을 초래하며, 이는 사용자들의 불신을 야기하여 사이버 공격 방어 모델의 신뢰도를 저하시킵니다. 이러한 문제 해결을 위해 본 연구는 설명 가능한 인공지능(XAI)을…

연구 트렌드로 돌아가기