적대적 머신러닝: 위협과 방어 전략

인공지능(AI)의 급속한 발전은 이미지 인식, 자율주행 등 다양한 분야에서 고성능 모델을 탄생시켰습니다. 그러나 머신러닝(ML) 모델은 적대적 공격 및 데이터 오염에 취약하여 시스템 오작동 및 의사결정 오류를 초래할 수 있으며, 개인 데이터 사용으로 인한 프라이버시 침해 문제도 제기됩니다. 본 논문은 현대 AI 시스템의 적대적 머신러닝(AML) 환경을 견고성과 프라이버시라는 이중 관점에서 조망합니다. 연구는 포괄적인 분류 체계를 활용하여 적대적 공격 및 방어 기법을 탐구합니다. 이어서 견고성 벤치마크와 함께 ML 시스템 이해관계자가 견고한 AI 시스템을 개발하는 데 활용할 수 있는 오픈소스 AML 기술 및 소프트웨어 도구를 조사합니다. 특히 자동차, 디지털 헬스케어, 전력 및 에너지 시스템(EPES), 대규모 언어 모델(LLM) 기반 자연어 처리(NLP) 시스템의 네 가지 주요 산업 분야에서 AML 환경을 심층적으로 분석합니다. 각 분야의 공격, 방어, 평가 개념을 분석하여 현대 AI 의존 산업의 전반적인 상황을 제시합니다. 본 연구는 미래 ML 시스템의 견고성 및 프라이버시 보호를 강화하기 위한 전체론적 관점을 제공하며, AI 시스템의 보안과 신뢰성을 높이는 데 기여할 것입니다.