신뢰할 수 있는 RAG 시스템 구축을 위한 탐색

검색 증강 생성(RAG)은 외부 지식을 통합하여 AI 생성 콘텐츠의 관련성을 높이고 환각 현상을 줄이지만, 신뢰성, 안전성, 프라이버시, 공정성, 설명 가능성, 책임성 측면에서 새로운 위험을 야기합니다. 이러한 문제들은 RAG 시스템의 전반적인 신뢰성에 영향을 미치며, 현재까지 이들을 통합적으로 다루는 프레임워크는 부족합니다. 본 연구는 신뢰할 수 있는 RAG 시스템 구축을 위한 포괄적인 로드맵을 제시하여 이러한 격차를 해소합니다. 신뢰성 관련 주요 도전 과제, 기존 해결책, 그리고 미래 연구 방향을 체계적으로 분석합니다. 특히 검색 및 생성 단계와 여섯 가지 신뢰성 차원 간의 상호작용을 중심으로 분야를 정리하고, 교차 차원 분석을 통해 시너지 효과와 상충 관계를 명확히 보여줍니다. 이 분석은 신뢰할 수 있는 RAG가 큰 영향을 미칠 수 있는 실제 응용 분야를 조명합니다. 본 연구는 실세계 AI 시스템에서 신뢰할 수 있는 RAG의 추가 연구와 도입을 장려하는 데 기여할 것입니다.