최근 연구에 따르면 스파이킹 신경망(SNN)은 프레임 및 이벤트 기반 정보 환경에서 깨끗한 데이터와 거의 구별할 수 없는 적대적 예시에 취약합니다. 기존 연구들은 대부분 생물학적 타당성이 낮은 역전파(BPTT) 기반의 기울기 방식을 사용하여 적대적 예시를 생성하는 데 한계가 있었습니다. 반면, BPTT의 제약을 완화하는 지역 학습 방식은 적대적 공격 측면에서 충분히 탐구되지 않았습니다.
본 연구는 지역 학습 방식이 SNN의 신뢰성을 저해할 수 있는 적대적 취약점을 도입하는지 조사합니다. 이를 위해 네 가지 유형의 훈련 알고리즘 프레임워크를 통해 SNN의 적대적 강건성을 분석했습니다. 직접적인 기울기 기반 공격이 지역적으로 훈련된 모델에는 비효율적임을 심층 분석을 통해 밝혀냈습니다.
이러한 한계를 극복하고자 적대적 인스턴스의 전이성을 활용하는 하이브리드 적대적 공격 패러다임을 제안합니다. 제안된 하이브리드 접근 방식은 기존 적대적 공격 방법보다 우수한 성능을 보였습니다. 또한, 다단계 적대적 공격, 블랙박스 시나리오, 비스파이킹 도메인에서도 방법론의 일반화 가능성을 평가했습니다.
이 연구는 지역 학습 기반 SNN의 적대적 강건성에 대한 이해를 증진하고, 실제 배포 환경에서 SNN의 보안 및 신뢰성을 향상시키는 데 기여할 것입니다.
Segment Anything Model(SAM)은 객체 분할 능력과 제로샷 전이 학습 성능으로 주목받지만, 다양한 손상 조건에서의 견고성은 충분히 탐구되지 않았습니다. 특히 SAM이 형태보다 질감에 편향되어 있다는 기존 연구 결과가 있습니다. 본 연구는 SAM의 견고성을 종합적으로 평가하고 취약점의 근원을 분석합니다.
본 연구는 스타일 전이, 15가지 일반적인 손상, 로컬 패치 가림, 그리고 적대적 패치 공격에 대한 SAM의 견고성을 체계적으로 평가했습니다. 또한, 인간이 인지하기 어려운 전역 적대적 공격에 대한 취약성을 조사하기 위해 마스크 인식 손실을 포함한 새로운 공격 방법을 제안했습니다. 나아가 적대적 예제의 표적 전이성을 높이기 위한 대조 학습 기반 접근 방식과 방어 전략 및 적응형 공격 방법을 탐구했습니다.
연구 결과, SAM은 일반적인 손상과 로컬 패치 가림에는 견고한 반면, 적대적 패치 공격에는 취약함이 드러났습니다. 이는 패치 공격이 특징 맵을 교란하고 어텐션 메커니즘을 오도하기 때문입니다. SAM의 취약성은 저주파 신호보다 고주파 신호에 더 의존하는 경향에서 비롯됨을 확인했습니다. 제안된 대조 학습 기반 모듈은 SAM 모델 간의 적대적 예제 전이성을 효과적으로 향상시켰습니다.
이 연구는 SAM의 다양한 시나리오에서의 견고성에 대한 포괄적인 이해를 제공하며, 실제 환경에서의 적용 가능성과 효과에 대한 귀중한 통찰력을 제시할 것으로 기대됩니다.
