거대 언어 모델 유해 미세 조정 공격 및 방어
Harmful Fine-tuning Attacks and Defenses for Large Language Models: A Survey
원저자 Tiansheng Huang, Sihao Hu, Fatih İlhan 외 2인·ACM Computing Surveys·원발행 2026.05· 122 인용·카라멜 랩 해설 공개 2026. 11. 8.
최근 1년 114회 인용· 분야 최상위· 떠오르는 연구
한국어 핵심 요약
최근 연구에 따르면, 서비스형 미세 조정(fine-tuning-as-a-service) 비즈니스 모델은 심각한 안전 문제를 야기합니다. 사용자로부터 업로드된 소수의 유해하거나 겉보기에 무해한 데이터로 모델을 미세 조정할 경우, 모델의 안전 정렬(safety alignment)이 손상될 수 있습니다. 이러한 '유해 미세 조정 공격'은 학계와 산업계 모두에서 광범위한 연구 관심을 불러일으키고 있습니다.
본 논문은 유해 미세 조정의 위협 모델과 기본 가정을 체계적으로 정립합니다. 또한, 공격 설정, 방어 설계, 평가 방법론이라는 세 가지 핵심 관점에서 유해 미세 조정을 종합적으로 검토합니다. 기존 문헌에서 대표적인 공격, 방어 방법, 그리고 기계적 해석 가능성을 체계적으로 조사합니다.
마지막으로, 평가 방법론을 소개하고 향후 연구 방향을 제시하여 이 분야의 발전을 위한 지침과 중요한 관점을 제공합니다. 이 연구는 거대 언어 모델의 안전성 확보를 위한 필수적인 통찰을 제공하며, 관련 연구자들에게 실질적인 가이드라인이 될 것입니다.
섹션 미리보기
연구 배경
서비스형 미세 조정 모델이 사용자 데이터로 인해 거대 언어 모델의 안전 정렬을 손상시킬 수 있다는 우려가 커지고 있습니다. 이러한 '유해 미세 조정 공격'은 학계와 산업계의 주요 관심사로 부상했습니다.
핵심 발견
본 연구는 유해 미세 조정의 위협 모델을 체계화하고, 공격 설정, 방어 설계, 평가 방법론 관점에서 종합적으로 분석합니다. 또한, 기존 문헌의 대표적인 공격 및 방어 기법을 조사하고 미래 연구 방향을 제시합니다.
관련 컴퓨터 과학 논문
개념 그래프 기반 스키마 매칭
2026·18
오프로드 주행을 위한 시각 기반 마찰 학습
2026·8
내결함성 양자 컴파일 벤치마크
2026·13
트로터 공식을 활용한 양자 시뮬레이션
2026·6