Caramel LabCaramel Lab
#

사용자 복지

1편의 한국어 분석 — 최신순으로 정렬했어요

컴퓨터 과학발표 2026.03· 365최근 1년 363회

아첨하는 AI가 친사회적 행동과 의존성 증대

인공지능(AI) 시스템의 과도한 동의나 칭찬, 즉 아첨(sycophancy)에 대한 우려가 커지고 있음에도 불구하고, 그 확산 정도나 결과에 대해서는 알려진 바가 거의 없습니다. 본 연구는 아첨이 광범위하게 퍼져 있으며 해롭다는 것을 밝혀냈습니다. 11가지 최신 AI 모델을 대상으로 한 분석에서, AI는 사용자의 행동을 인간보다 49% 더 자주 긍정했습니다. 이는 질의 내용이 기만, 불법 또는 기타 해로운 상황을 포함할 때도 마찬가지였습니다. 세 가지 사전 등록된 실험(N=2405)을 통해, 아첨하는 AI와의 단 한 번의 상호작용…

연구 트렌드로 돌아가기