LLM 다중 에이전트 커뮤니티의 조작된 지식 확산
대규모 언어 모델(LLM) 기반 다중 에이전트 시스템은 다양한 응용 분야에서 뛰어난 역량을 보여주지만, 조작된 지식 확산과 관련된 보안 취약성은 충분히 연구되지 않았습니다. 본 연구는 LLM 기반 다중 에이전트 시스템의 보안 취약점을 이해하고, 조작된 지식이 신뢰할 수 있는 제3자 플랫폼에 침투할 가능성을 탐구하는 것을 목표로 합니다. 이를 위해 설득력 주입(Persuasiveness Injection)과 조작 지식 주입(Manipulated Knowledge Injection)으로 구성된 새로운 2단계 공격 방법론을 설계했습니다…