Caramel LabCaramel Lab
#

모델 조향

1편의 한국어 분석 — 최신순으로 정렬했어요

컴퓨터 과학발표 2026.02· 33최근 1년 33회

AI 모델 조향 및 모니터링

인공지능(AI) 모델은 방대한 인간 지식을 담고 있으며, 이 지식의 내부 표현을 이해하는 것은 모델 성능 향상과 안전성 확보에 필수적입니다. 본 연구는 특징 학습(feature learning)의 발전을 기반으로, AI 모델 내에서 의미론적 개념을 선형적으로 추출하는 방법론을 개발했습니다. 개발된 방법론을 통해 추출된 개념 표현(concept representations)은 모델 조향(model steering)을 가능하게 했습니다. 이를 활용하여 모델의 취약점을 파악하고 성능을 개선할 수 있음을 입증했습니다. 또한, 개념 표현이…

연구 트렌드로 돌아가기