컴퓨터 과학발표 2025.05· 40최근 1년 40회

적대적 머신러닝: 위협과 방어 전략

인공지능(AI)의 급속한 발전은 이미지 인식, 자율주행 등 다양한 분야에서 고성능 모델을 탄생시켰습니다. 그러나 머신러닝(ML) 모델은 적대적 공격 및 데이터 오염에 취약하여 시스템 오작동 및 의사결정 오류를 초래할 수 있으며, 개인 데이터 사용으로 인한 프라이버시 침해 문제도 제기됩니다. 본 논문은 현대 AI 시스템의 적대적 머신러닝(AML) 환경을 견고성과 프라이버시라는 이중 관점에서 조망합니다. 연구는 포괄적인 분류 체계를 활용하여 적대적 공격 및 방어 기법을 탐구합니다. 이어서 견고성 벤치마크와 함께 ML 시스템 이해관계자가 견고한 AI 시스템을 개발하는 데 활용할 수 있는 오픈소스 AML 기술 및 소프트웨어 도구를 조사합니다. 특히 자동차, 디지털 헬스케어, 전력 및 에너지 시스템(EPES), 대규모 언어 모델(LLM) 기반 자연어 처리(NLP) 시스템의 네 가지 주요 산업 분야에서 AML 환경을 심층적으로 분석합니다. 각 분야의 공격, 방어, 평가 개념을 분석하여 현대 AI 의존 산업의 전반적인 상황을 제시합니다. 본 연구는 미래 ML 시스템의 견고성 및 프라이버시 보호를 강화하기 위한 전체론적 관점을 제공하며, AI 시스템의 보안과 신뢰성을 높이는 데 기여할 것입니다.

분석 보기 원문

컴퓨터 과학발표 2025.01· 49최근 1년 49회

확산 모델 기반 이미지 생성 연구 동향

딥러닝 기술의 급속한 발전과 함께 확산 모델은 이미지, 오디오, 비디오 합성, 분자 설계, 텍스트 생성 등 다양한 분야에서 유망한 생성 모델로 부상했습니다. 독특한 생성 메커니즘과 뛰어난 품질 덕분에 여러 분야에서 가치 있는 도구로 활용되고 있습니다. 그러나 이미지 생성 분야에서 확산 모델의 광범위한 배포는 데이터 프라이버시, 보안, 예술 윤리와 같은 사회적 문제들을 야기하고 있습니다. 기존 연구들은 최신 확산 모델 기반 이미지 합성 기술과 잠재적 사회적 함의를 충분히 다루지 못하는 한계가 있습니다. 본 논문은 확산 모델의 배경 원리 및 이론적 토대를 체계적으로 조사합니다. 또한 스타일 변환, 이미지 완성, 편집, 초해상도 등 다양한 이미지 생성 하위 분야에서 확산 모델의 최신 응용 사례를 상세히 분석합니다. 나아가 데이터 유출 가능성 및 보호 조치, 모델 악용 위험 및 방어 전략, 생성 이미지의 진위 및 독창성 문제 등 확산 모델 사용으로 인해 발생할 수 있는 사회적 영향에 대해 포괄적으로 고찰합니다.

분석 보기 원문