시스템 1에서 2로: 추론형 LLM 연구 동향

인간 수준의 지능을 달성하려면 빠르고 직관적인 시스템 1 사고에서 느리고 신중한 시스템 2 추론으로의 전환을 고도화해야 한다. 기존 대규모 언어 모델(LLM)은 빠른 의사결정에 능하지만, 복잡한 추론을 위한 단계별 분석 능력인 시스템 2 사고는 부족했다. 이는 편향을 줄이고 정확한 판단을 내리는 데 필수적인 논리적 추론 역량의 한계를 드러냈다. 최근 OpenAI의 o1/o3, DeepSeek의 R1과 같은 추론형 LLM은 수학, 코딩 등 전문 분야에서 전문가 수준의 성능을 보이며 시스템 2의 신중한 추론과 유사한 인지 능력을 입증했다. 이 연구는 기반 LLM의 발전과 초기 시스템 2 기술의 개발 과정을 개괄하고, 이들의 결합이 추론형 LLM의 발판을 마련한 과정을 탐색한다. 또한, 추론형 LLM의 구축 방법, 다양한 추론 모델의 진화, 그리고 이들을 가능하게 하는 핵심 추론 방법론을 심층적으로 논의한다. 나아가, 주요 추론 벤치마크를 소개하고 대표적인 추론형 LLM들의 성능을 비교 분석한다. 마지막으로, 추론형 LLM 발전을 위한 유망한 연구 방향을 제시하고, 최신 동향을 실시간으로 추적하는 GitHub 저장소를 제공한다. 본 연구는 급변하는 이 분야에서 혁신을 고취하고 발전을 촉진하는 귀중한 자료가 될 것으로 기대한다.