Caramel LabCaramel Lab
#

딥페이크

2의 한국어 분석 — 최신순으로 정렬했어요

컴퓨터 과학발표 2026.03· 15최근 1년 15

딥페이크 생성 및 탐지 기술 현황 분석

딥페이크 기술은 사실적인 얼굴 이미지 및 비디오 합성을 목표로 하며, 엔터테인먼트, 영화 제작, 디지털 휴먼 모델링 등 광범위한 응용 잠재력을 지닌다. 최근 확산 모델의 등장으로 생성 품질이 크게 향상되며 연구의 새로운 물결을 일으켰다. 그러나 딥페이크의 오용 가능성(프라이버시 침해, 피싱 공격 등)에 대응하기 위해 탐지 기술 또한 지속적으로 발전하고 있다. 본 연구는 딥페이크 생성 및 탐지 분야의 최신 발전을 종합적으로 검토한다. 먼저, 태스크 정의를 통일하고, 데이터셋 및 평가 지표를 포괄적으로 소개하며, 기반 기술을 요약한다. 이어서 얼굴 스와핑, 얼굴 재연, 대화하는 얼굴 생성, 얼굴 속성 편집 등 네 가지 대표적인 딥페이크 연구 분야와 위조 탐지 기술의 발전을 심층적으로 분석한다. 또한, 널리 사용되는 데이터셋에 대해 대표적인 방법론들을 벤치마킹하여 가장 영향력 있는 연구들의 최신 평가를 제공한다. 이를 통해 빠르게 진화하는 이 분야의 현재 기술 수준을 명확히 제시한다. 마지막으로, 딥페이크 기술의 주요 과제를 논의하고 향후 연구 방향을 제시한다. 본 조사는 컴퓨터 과학 분야의 STEM 학생 및 연구자들이 딥페이크 기술의 핵심을 신속하게 파악하고 관련 연구에 기여할 수 있도록 돕는다.

컴퓨터 과학발표 2025.03· 41최근 1년 41

AI 음성 복제물 탐지 능력 부족

생성형 인공지능(AI)의 급격한 발전은 텍스트, 오디오, 이미지, 비디오 등 다양한 형태의 콘텐츠가 인간이 생성한 콘텐츠를 모방하는 능력을 지속적으로 향상시키고 있습니다. 특히 음성 분야에서 AI 기술은 실제 사람의 목소리와 구별하기 어려울 정도로 정교해지고 있으며, 이는 사회적, 윤리적 문제를 야기할 수 있습니다. 본 연구는 일련의 지각 연구를 통해 AI 생성 음성의 사실성, 특히 신원 일치 및 자연스러움 측면을 평가했습니다. 참가자들에게 실제 음성과 AI 생성 음성을 들려주고, 두 음성의 동일성 여부와 AI 생성 여부를 판단하도록 요청했습니다. 연구 결과, 인간 참가자들은 AI 생성 음성을 일관되게 식별하지 못하는 것으로 나타났습니다. 참가자들은 AI 생성 음성의 신원을 실제 음성의 신원과 동일하다고 약 50%의 시간 동안 인식했으며, 음성이 AI에 의해 생성되었다는 것을 올바르게 식별한 경우는 약 50%에 불과했습니다. 이러한 결과는 현재 AI 음성 복제 기술이 인간의 탐지 능력을 뛰어넘는 수준에 도달했음을 시사합니다. 이는 딥페이크, 사기 등 AI 음성 오용으로 인한 잠재적 위협에 대한 경각심을 높이고, AI 음성 탐지 기술 개발 및 관련 정책 마련의 필요성을 강조합니다.

연구 트렌드로 돌아가기