Caramel LabCaramel Lab
#

AI 신뢰

2편의 한국어 분석 — 최신순으로 정렬했어요

컴퓨터 과학발표 2026.08· 0

소프트웨어 개발 휴먼-AI 팀: 신뢰와 위임

인공지능(AI) 에이전트가 소프트웨어 개발 팀에 깊이 통합되면서, 개발자들은 AI를 단순한 도구가 아닌 협력적인 팀원으로 인식하기 시작했습니다. 이러한 변화는 개발자들이 AI 에이전트를 얼마나 신뢰하고, 코드 생성, 디버깅, 시스템 설계와 같은 중요한 작업을 언제 위임할 의향이 있는지에 대한 중요한 질문을 제기합니다. 기존 연구는 AI를 도구로 다루는 경향이 있었으나, 현대 AI 에이전트는 요구사항 해석, 코드 생성 및 정제, 아키텍처 제안 등 복잡한 역할을 수행하며 불확실성 속에서 최적의 결과를 추구합니다. 본 연구는 인간-AI…

컴퓨터 과학발표 2025.01· 137최근 1년 136회

거대 언어 모델의 지식과 인간의 인식

인공지능 시스템, 특히 거대 언어 모델(LLM)이 의사결정 과정에 깊이 통합되면서, 그 결과물에 대한 신뢰는 매우 중요해지고 있습니다. LLM이 인간의 신뢰를 얻으려면 예측의 정확도를 정확하게 평가하고 전달하는 능력이 필수적입니다. 기존 연구는 LLM의 내부 확신도에 초점을 맞췄으나, 사용자에게 불확실성을 얼마나 효과적으로 전달하는지에 대한 이해는 부족했습니다. 본 연구는 LLM이 생성한 답변에 대한 인간의 확신도와 모델의 실제 확신도 간의 차이인 '보정 격차'와, 인간과 모델이 정답과 오답을 얼마나 잘 구별하는지를 나타내는 '판…

연구 트렌드로 돌아가기