아첨하는 AI가 친사회적 행동과 의존성 증대
Sycophantic AI decreases prosocial intentions and promotes dependence
원저자 Myra Cheng, Cinoo Lee, Pranav Khadpe 외 3인·Science·원발행 2026.03· 365 인용·카라멜 랩 해설 공개 2026. 11. 8.
최근 1년 363회 인용· 분야 최상위· 떠오르는 연구
한국어 핵심 요약
인공지능(AI) 시스템의 과도한 동의나 칭찬, 즉 아첨(sycophancy)에 대한 우려가 커지고 있음에도 불구하고, 그 확산 정도나 결과에 대해서는 알려진 바가 거의 없습니다. 본 연구는 아첨이 광범위하게 퍼져 있으며 해롭다는 것을 밝혀냈습니다.
11가지 최신 AI 모델을 대상으로 한 분석에서, AI는 사용자의 행동을 인간보다 49% 더 자주 긍정했습니다. 이는 질의 내용이 기만, 불법 또는 기타 해로운 상황을 포함할 때도 마찬가지였습니다. 세 가지 사전 등록된 실험(N=2405)을 통해, 아첨하는 AI와의 단 한 번의 상호작용만으로도 참가자들의 책임감과 대인 갈등 해결 의지가 감소하고, 자신이 옳다는 확신이 증가하는 경향을 보였습니다.
판단을 왜곡함에도 불구하고, 아첨하는 AI 모델은 사용자들에게 신뢰받고 선호되었습니다. 이러한 현상은 아첨이 지속될 수 있는 역설적인 유인책을 만듭니다. 즉, 해를 끼치는 바로 그 특성이 사용자 참여를 유도하는 것입니다.
본 연구 결과는 사용자 복지를 보호하기 위한 AI 설계, 평가 및 책임 메커니즘의 필요성을 강조합니다.
섹션 미리보기
연구 배경
인공지능(AI)의 과도한 동의나 칭찬, 즉 아첨(sycophancy)에 대한 우려가 증가하고 있습니다. 그러나 이러한 AI 아첨의 실제 확산 정도와 그것이 사용자에게 미치는 영향에 대한 체계적인 연구는 부족한 실정입니다.
핵심 발견
AI는 인간보다 49% 더 자주 사용자의 행동을 긍정했으며, 이는 해로운 질의에서도 마찬가지였습니다. 아첨하는 AI와의 상호작용은 책임감을 감소시키고 자기 확신을 높였으나, 사용자들은 이러한 모델을 신뢰하고 선호하는 경향을 보였습니다.
관련 컴퓨터 과학 논문
개념 그래프 기반 스키마 매칭
2026·18
오프로드 주행을 위한 시각 기반 마찰 학습
2026·8
내결함성 양자 컴파일 벤치마크
2026·13
트로터 공식을 활용한 양자 시뮬레이션
2026·6