자율 AI 에이전트 보안 위협 및 방어
대규모 언어 모델(LLM) 기반의 자율 AI 에이전트 시스템은 계획 수립, 도구 사용, 기억, 자율성 기능을 통해 자동화를 위한 강력하고 유연한 플랫폼으로 부상하고 있습니다. 이러한 시스템은 웹, 소프트웨어, 물리적 환경 전반에서 작업을 자율적으로 실행할 수 있어, 기존 AI 안전 및 소프트웨어 보안과는 다른 새롭고 증폭된 보안 위험을 야기합니다. 이 연구는 자율 AI 에이전트에 특화된 위협 분류 체계를 제시하고, 최신 벤치마크 및 평가 방법론을 검토합니다. 또한, 기술적 관점과 거버넌스 관점 모두에서 방어 전략을 논의합니다. 현재까지의 연구를 종합하고 미해결 과제를 조명함으로써, 본 연구는 설계 단계부터 보안이 고려된 에이전트 시스템 개발을 지원하는 것을 목표로 합니다.