적대적 머신러닝: 위협과 방어 전략
인공지능(AI)의 급속한 발전은 이미지 인식, 자율주행 등 다양한 분야에서 고성능 모델을 탄생시켰습니다. 그러나 머신러닝(ML) 모델은 적대적 공격 및 데이터 오염에 취약하여 시스템 오작동 및 의사결정 오류를 초래할 수 있으며, 개인 데이터 사용으로 인한 프라이버시 침해 문제도 제기됩니다. 본 논문은 현대 AI 시스템의 적대적 머신러닝(AML) 환경을 견고성과 프라이버시라는 이중 관점에서 조망합니다. 연구는 포괄적인 분류 체계를 활용하여 적대적 공격 및 방어 기법을 탐구합니다. 이어서 견고성 벤치마크와 함께 ML 시스템 이해관계자…