강건하고 안전한 체화 인공지능을 향하여
체화 인공지능(Embodied AI) 시스템은 대규모 시각-언어 모델(LVLM) 및 대규모 언어 모델(LLM)을 물리적 액추에이터 및 센서와 통합하여 실제 환경에서 인지, 인식, 작동 간의 복잡한 상호작용으로 인해 고유한 강건성 및 보안 문제에 직면합니다. 본 연구는 이러한 취약점과 관련 공격 표면에 대한 체계적인 분석을 제공합니다. 저자들은 근본적, 통합적, 맥락적 위험을 포함하는 세 가지 취약점 분류 체계를 제안합니다. 근본적 취약점은 현재 AI 아키텍처 및 훈련 패러다임의 내재적 한계에서 발생하며, 통합적 취약점은 사이버-물리적 구성요소의 결합에서, 그리고 맥락적 취약점은 동적인 물리적 환경 및 배포 조건에서 기인합니다. 이에 따라 LLM/LVLM에 대한 근본적 공격(로짓 기반, 최적화 기반, 프롬프트 기반, 교차 모달리티 공격 포함), 통합 수준의 사이버 보안 위협(중간자, 펌웨어, 사이드 채널, 공급망 공격 등), 그리고 맥락적 공격(주로 다중 모달리티 센서 스푸핑)을 포괄하는 포괄적인 공격 분류 체계를 제시합니다. 또한 인지 핵심의 대표적인 실패 모드를 검토하고, 기존 평가 방법론 및 벤치마크를 분석하며, 지각적 중복성, 런타임 모니터링, 하드웨어 강화 안전 메커니즘을 통합하는 다층 방어 프레임워크를 종합합니다. 이 연구는 안전에 중요한 실제 환경에 배포되는 강건하고 안전한 체화 인공지능 시스템을 설계하고 평가하기 위한 통일된 개념적 프레임워크와 실용적인 로드맵을 제공합니다.