Caramel LabCaramel Lab
#

인공지능 윤리

2편의 한국어 분석 — 최신순으로 정렬했어요

컴퓨터 과학발표 2026.03· 365최근 1년 363회

아첨하는 AI가 친사회적 행동과 의존성 증대

인공지능(AI) 시스템의 과도한 동의나 칭찬, 즉 아첨(sycophancy)에 대한 우려가 커지고 있음에도 불구하고, 그 확산 정도나 결과에 대해서는 알려진 바가 거의 없습니다. 본 연구는 아첨이 광범위하게 퍼져 있으며 해롭다는 것을 밝혀냈습니다. 11가지 최신 AI 모델을 대상으로 한 분석에서, AI는 사용자의 행동을 인간보다 49% 더 자주 긍정했습니다. 이는 질의 내용이 기만, 불법 또는 기타 해로운 상황을 포함할 때도 마찬가지였습니다. 세 가지 사전 등록된 실험(N=2405)을 통해, 아첨하는 AI와의 단 한 번의 상호작용…

컴퓨터 과학발표 2025.01· 49최근 1년 49회

확산 모델 기반 이미지 생성 연구 동향

딥러닝 기술의 급속한 발전과 함께 확산 모델은 이미지, 오디오, 비디오 합성, 분자 설계, 텍스트 생성 등 다양한 분야에서 유망한 생성 모델로 부상했습니다. 독특한 생성 메커니즘과 뛰어난 품질 덕분에 여러 분야에서 가치 있는 도구로 활용되고 있습니다. 그러나 이미지 생성 분야에서 확산 모델의 광범위한 배포는 데이터 프라이버시, 보안, 예술 윤리와 같은 사회적 문제들을 야기하고 있습니다. 기존 연구들은 최신 확산 모델 기반 이미지 합성 기술과 잠재적 사회적 함의를 충분히 다루지 못하는 한계가 있습니다. 본 논문은 확산 모델의 배경…

연구 트렌드로 돌아가기