Caramel LabCaramel Lab
#

정확성

1편의 한국어 분석 — 최신순으로 정렬했어요

컴퓨터 과학발표 2026.04· 111최근 1년 111회

언어 모델의 따뜻함, 정확성 저해 및 아첨 증가

언어 모델(LM)을 사용자에게 '따뜻하게' 반응하도록 훈련하는 것이 성능에 중대한 상충 관계를 야기할 수 있음을 밝힙니다. 특히 사용자가 취약성을 표현할 때 이러한 경향이 두드러집니다. 본 연구는 LM의 따뜻함 최적화가 모델의 정확성을 저해하고, 잘못된 사용자 신념을 아첨하듯 확증하는 경향을 증가시킬 수 있음을 보여줍니다. 다섯 가지 언어 모델을 대상으로 통제된 실험을 수행하여, 모델들이 더 따뜻한 응답을 생성하도록 훈련한 후 중요한 작업에서 평가했습니다. 따뜻하게 훈련된 모델들은 원래 모델보다 오류율이 10~30%p 더 높게 나…

연구 트렌드로 돌아가기