컴퓨터 과학발표 2026.06· 1최근 1년 1회

비즈니스 AI 에이전트와 자율 의사결정

자율 의사결정 능력을 갖춘 인공지능(AI) 에이전트가 비즈니스 프로세스와 경영 의사결정 구조를 혁신하고 있지만, 관련 연구는 파편화되어 비즈니스 맥락에서 에이전트 AI가 어떻게 개념화되고 적용되며 관리되는지에 대한 통합적 이해가 부족합니다. 본 연구는 이러한 간극을 해소하고자 2020년부터 2025년까지 발표된 문헌을 대상으로 체계적인 스코핑 리뷰를 수행했습니다. 주요 학술 데이터베이스에서 총 875편의 연구를 수집하여 정량적 매핑 및 주제 분석에 활용했으며, 이 중 대표적인 일부를 선정하여 심층적인 질적 합성을 진행했습니다. 이를 통해 AI 에이전트에 대한 세 가지 지배적인 개념적 관점(기술적, 조직적, 하이브리드)을 도출했습니다. 주요 적용 분야는 전략, 운영, 인적 자원 관리였으며, 강화 학습, 시뮬레이션, 최적화가 가장 흔히 사용되는 기술로 나타났습니다. AI 에이전트가 효율성 증대와 의사결정 가속화에 기여하지만, 책임성, 투명성, 시스템 통합과 관련된 중대한 도전 과제가 여전히 존재함을 확인했습니다. 본 연구는 비즈니스 환경에서의 에이전트 AI 통합(AAB) 모델과 의사결정 지원, 반자율, 완전 자율 시스템을 구분하는 분류 체계를 제안합니다. 이는 자율 AI 시스템의 거버넌스, 신뢰, 책임감 있는 도입에 대한 개념적 명확성과 실질적인 통찰력을 제공하며, 정책 입안자들이 혁신을 저해하지 않으면서 책임성을 보장하도록 AI 자율성 수준에 맞춰 규제 감독을 조정하는 차등화된 거버넌스 프레임워크를 개발할 것을 제언합니다.

분석 보기 원문

컴퓨터 과학발표 2026.01· 20최근 1년 20회

LLM 프롬프트 주입 공격 종합 분석

대규모 언어 모델(LLM)은 인공지능 응용 분야를 혁신했지만, 실제 시스템 통합 과정에서 프롬프트 주입 공격이라는 심각한 보안 취약점을 드러냈습니다. 본 연구는 2023년부터 2025년까지의 연구 45건, 산업 보안 보고서, 실제 공격 사례를 종합적으로 분석하여 이 문제를 다룹니다. 직접적인 탈옥(jailbreaking)과 외부 콘텐츠를 통한 간접 주입을 포함한 프롬프트 주입 기술의 분류 체계를 검토했습니다. AI 에이전트 시스템과 모델 컨텍스트 프로토콜(MCP)의 등장은 공격 표면을 크게 확장하여 도구 오염 및 자격 증명 탈취와 같은 새로운 취약점을 야기했습니다. 주요 사건으로는 GitHub Copilot의 CVE-2025-53773 원격 코드 실행 취약점(CVSS 9.6)과 ChatGPT의 Windows 라이선스 키 노출 사례를 기록했습니다. 연구 결과, 단 5개의 정교하게 제작된 문서만으로도 검색 증강 생성(RAG) 오염을 통해 AI 응답의 90%를 조작할 수 있음이 입증되었습니다. 본 연구는 5가지 보호 계층을 구현하는 심층 방어 프레임워크인 PALADIN을 제안하며, OWASP Top 10 for LLM Applications 2025를 기반으로 한 실행 가능한 완화 전략을 제시합니다. 프롬프트 주입은 단일 솔루션이 아닌 심층 방어 접근 방식이 필요한 근본적인 아키텍처 취약점임을 밝히고, 확률적 특성 문제 및 정렬 역설과 같은 근본적인 한계를 식별하며, 아키텍처적으로 안전한 AI 시스템을 위한 연구 방향을 제시합니다.

분석 보기 원문