다양한 분야에서 널리 사용되는 테이블 데이터는 이질적인 특성과 복잡한 구조적 관계로 인해 분석에 어려움이 있습니다. 높은 예측 성능과 견고성을 달성하는 것은 수많은 응용 분야에서 중요합니다. 최근 자연어 처리, 특히 트랜스포머 아키텍처의 발전은 테이블 데이터 모델링을 위한 새로운 방법론을 이끌어냈습니다.
초기 기법들은 트랜스포머를 처음부터 사전 학습하는 데 집중했으나, 확장성 문제에 직면했습니다. 이후 BERT와 같은 사전 학습된 언어 모델을 활용하는 방법들이 개발되어 더 적은 데이터로도 향상된 성능을 보였습니다. GPT, LLaM…
본 연구는 그리드 기반 환경에서 대규모 언어 모델(LLM)을 활용하여 해석 가능하고 실행 가능한 프로그램을 합성하는 반복적 프로그래밍 계획(IPP) 프레임워크를 제안합니다. 이 프레임워크는 기존의 탐색이나 강화 학습 방식 대신, 환경 상태를 행동 시퀀스에 매핑하는 에이전트 정책으로 작동하는 코드를 생성합니다. 직접 코드 생성, 의사코드 기반 정제, 커리큘럼 기반 프롬프트 전략과 더불어, IPP는 거친 수준의 작업별 피드백을 통해 코드를 업데이트하는 반복적 정제 메커니즘에 중점을 둡니다.
여섯 가지 주요 LLM과 두 가지 도전적인 …
대규모 언어 모델(LLM)은 프로그램 복구, 문서화, 코드 리팩토링 등 다양한 소프트웨어 개발 관련 작업에서 뛰어난 성능을 보였습니다. 그러나 이러한 모델의 훈련에는 막대한 데이터와 상당한 컴퓨팅 자원이 필요합니다. 어댑터는 전체 모델을 재훈련할 필요 없이 특정 작업, 도메인 또는 애플리케이션에 맞춰 LLM을 효율적으로 미세 조정하기 위해 설계된 작고 특화된 모듈입니다.
모델 및 어댑터 병합은 최소한의 훈련 또는 훈련 없이 여러 작업을 수행할 수 있는 단일 모델을 개발하는 기술로 부상했습니다. 본 연구에서는 MergeRepair …
저작자 분석은 법의학 언어학, 학술 연구, 사이버 보안, 디지털 콘텐츠 인증 등 다양한 분야에서 중요한 역할을 수행합니다. 본 논문은 저작자 귀속(Authorship Attribution)과 저작자 검증(Authorship Verification)이라는 두 가지 핵심 하위 작업을 중심으로 2015년부터 2024년까지의 연구를 체계적으로 검토합니다.
이 연구는 전통적인 머신러닝(ML) 방식부터 딥러닝(DL) 모델, 그리고 대규모 언어 모델(LLM)에 이르는 최신 방법론들을 탐구하며, 이들의 발전 과정, 강점, 그리고 한계를 조명합니…
대규모 언어 모델(LLM)은 자연어 처리 외에도 복잡한 과학 문제 해결에 활용되며, 기존 기계 학습 방식과 달리 추론 및 맥락 학습 능력을 통해 재료 발견 분야에 새로운 패러다임을 제시하고 있습니다. 본 연구는 산소 환원 반응을 위한 고성능 단일 원자 촉매를 발견하기 위해 다중 에이전트 기반 추론 및 최적화를 통한 전기 촉매 탐색(MAESTRO) 프레임워크를 제안합니다.
MAESTRO는 전문화된 역할을 가진 여러 LLM이 협력하여 자율적인 설계 루프 내에서 작동합니다. 각 에이전트는 반복적으로 추론하고, 촉매 수정안을 제안하며, …
기존 멀티모달 대규모 언어 모델(MLLM)은 특정 모달리티 및 작업에 국한되는 한계가 있습니다. 본 연구는 이미지와 비디오 모두에 대한 밀집 접지 이해를 위한 최초의 포괄적이고 통합된 모델인 Sa2VA를 제안합니다. Sa2VA는 참조 분할 및 대화를 포함한 광범위한 이미지 및 비디오 작업을 지원하며, 최소한의 단일 단계 지시 튜닝만 필요합니다.
Sa2VA는 기반 비디오 분할 모델인 SAM-2와 고급 비전-언어 모델인 MLLM을 결합하여 텍스트, 이미지, 비디오를 공유 LLM 토큰 공간으로 통합합니다. LLM을 활용하여 Sa2VA는…
풍력 에너지는 전 세계 전력 수요 충족 및 탈탄소화 목표 달성에 중요하지만, 간헐적이고 비정상적이며 공간적으로 결합된 특성으로 인해 전력 시스템 통합이 어렵습니다. 특히, 초단기(10분) 및 단기(1시간) 풍력 발전량 예측은 실시간 전력 배분, 예비력 할당, 계통 안정성에 필수적이지만, 풍력 터빈 간의 후류 상호작용, 풍향·풍속 변화, 센서 노이즈 등으로 인해 여전히 도전 과제로 남아있습니다.
본 연구에서는 이러한 문제를 해결하기 위해 물리 정보 기반의 방향성 인식 대규모 언어 모델(LLM) 유도 동적 시공간 그래프 딥 네트워크(…
인공지능 분야의 오랜 목표인 지능형 에이전트 개념은 최근 대규모 언어 모델(LLM)의 발전으로 새로운 전환점을 맞이했습니다. LLM은 추론, 계획, 도구 사용 능력을 갖춘 정교한 에이전트 개발을 가능하게 하며, 자연어를 인지 및 상호작용의 보편적 인터페이스로 활용하여 자율 작업 보조부터 복잡한 사회경제 시스템 시뮬레이션에 이르기까지 다양한 실제 응용 분야로 빠르게 확장되고 있습니다.
본 연구는 LLM 기반 에이전트 분야를 통합적으로 조망하며, 단일 및 다중 에이전트 시스템을 핵심 구성 요소로 체계적으로 분석하는 조직 프레임워크를 …
네트워크 이상 탐지를 위한 머신러닝(ML) 기법은 위협 탐지 및 대응 시간을 크게 단축하며 효과적인 사전 예방 전략으로 부상하고 있습니다. 그러나 ML 모델 훈련 및 유지보수의 어려움과 잦은 오탐은 이러한 기술의 수용성과 신뢰도를 저해합니다. 이에 대응하여 설명 가능한 인공지능(XAI) 기술이 도입되었으나, 여전히 현장 실무자들의 수용도가 낮고 분석가 및 모델 관리자의 의사결정 요구를 충족시키지 못하는 한계가 있습니다.
본 연구에서는 대규모 언어 모델(LLM)이 이러한 문제를 해결할 독특한 접근 방식을 제공한다는 점에 주목합니다.…
코드 분석은 소프트웨어 공학에서 디버깅, 성능 최적화, 보안 평가 등 핵심적인 역할을 수행합니다. 기존 도구들은 언어 특정성, 복잡한 설정, 그리고 교차 언어 일반화의 한계가 있었습니다. 최근 대규모 언어 모델(LLM)이 다양한 코드 관련 작업에 유망하게 부상했지만, 근본적인 코드 분석 능력에 대한 탐구는 부족했습니다. 본 연구는 LLM의 코드 분석 능력을 평가하여, LLM 기반 프로그래밍 도구의 발전 가능성을 모색합니다.
인간 개발자의 코드 분석 방식(구문 분석, 정적 의미 추론, 동적 추론)에 맞춰 연구를 구성했습니다. C, …
최근 OpenAI-o1, DeepSeek-R1과 같은 대규모 언어 모델(RLLM)의 추론 능력 발전은 수학 및 코딩과 같은 복잡한 영역에서 인상적인 성과를 보였습니다. 이러한 성공의 핵심 요인은 추론 능력을 향상하고 복잡한 문제 해결을 가능하게 하는 장기 CoT(Long Chain-of-Thought) 특성 적용에 있습니다. 그러나 장기 CoT에 대한 포괄적인 조사는 여전히 부족하여, 기존 단기 CoT(Short CoT)와의 차이점 이해를 제한하고 '과잉 사고' 및 '추론 시간 확장'과 같은 문제에 대한 논의를 복잡하게 만듭니다.
…
텍스트, 이미지, 비디오 등 다양한 양식(modality)을 아우르는 통합 학습 및 생성 알고리즘 개발은 인공지능 분야의 오랜 난제였습니다. 대규모 언어 모델(LLM)에서 혁신을 이끈 차세대 토큰 예측(next-token prediction) 방식은 멀티모달 영역으로의 확장에 한계가 있었으며, 이미지 및 비디오 합성에 주로 사용되는 확산 모델(diffusion model)이나 비전 인코더와 언어 모델을 통합하는 복합 프레임워크가 여전히 지배적이었습니다.
본 연구는 차세대 토큰 예측 방식만으로 학습된 멀티모달 모델인 Emu3 제품군…
사이버 위협 인텔리전스(CTI)는 지능형 지속 위협(APT) 방어에 필수적이지만, 기존 CTI 데이터는 비정형성, 단편성, 수동 의존성, 그리고 공격 기법과의 제한적인 의미 매핑으로 인해 하위 추론 작업의 정확도를 저해합니다. 또한, 전통적인 정보 추출 방식은 문맥 인지 및 프롬프트 변화에 대한 민감성 부족으로 인해 교차 문단 의존성, 신규 위협, 저자원 샘플 시나리오에서 일반화에 어려움을 겪습니다.
이러한 한계를 극복하고자, 본 연구는 대규모 언어 모델(LLM)과 ATT&CK 프레임워크 기반의 의미 정렬을 통합한 CTI 지식 그…
최근 멀티모달 대규모 언어 모델(MLLM)은 시각 질의응답 및 시각 이해·추론 분야에서 뛰어난 성능을 보였습니다. 그러나 방대한 모델 크기와 높은 학습 및 추론 비용은 학계와 산업 전반에 걸친 MLLM의 광범위한 적용을 저해하는 요인으로 작용했습니다. 특히 엣지 컴퓨팅 환경에서 효율적이고 경량화된 MLLM 연구의 잠재력은 매우 큽니다.
본 연구는 효율적인 MLLM의 현재 상태를 포괄적이고 체계적으로 검토합니다. 구체적으로 대표적인 효율적 MLLM의 발전 과정, 구조 및 전략에 대한 연구 현황, 그리고 다양한 응용 사례를 요약하여 …
오늘날 세계화된 경제에서 효과적인 위험 관리를 위해 포괄적인 공급망 가시성은 필수적이지만, 파트너 간 제한된 정보 공유로 인해 이를 달성하기 어렵습니다. 본 논문은 이해관계자 정보 공유에 직접 의존하지 않고 지식 그래프(KG)와 대규모 언어 모델(LLM)을 활용하여 공급망 가시성을 향상시키는 새로운 프레임워크를 제안합니다.
제안하는 제로샷(zero-shot) LLM 기반 프레임워크는 공개된 소스에서 다양하고 도메인 특화된 공급망 정보를 자동으로 추출합니다. 이를 통해 공급망 주체, 지리적 위치, 소유 구조, 제품 흐름 전반에 걸쳐…
수십억 개의 매개변수를 가진 대규모 언어 모델(LLM)은 특정 훈련 없이도 소수의 예시만으로 학습하는 인컨텍스트 학습 능력을 보인다. 기존 모델들이 언어 과제에서 뛰어난 성능을 보였지만, 기본적인 추론 벤치마크에서는 한계를 드러냈다. 그러나 새로운 인컨텍스트 학습 접근법인 Chain-of-Thought는 이러한 벤치마크에서 강력한 다단계 추론 능력을 입증했다.
본 연구는 LLM의 다단계 추론 분야를 종합적으로 검토한다. 다단계 추론의 생성, 평가, 제어 방식을 체계화하는 분류법을 제시하고, 핵심 접근법과 미해결 과제를 심층적으로 …
연구자와 기업가들은 질적 데이터 분석에 생성형 인공지능(GenAI) 도구를 적용하는 방안을 적극적으로 모색하고 있습니다. 자동 코딩 및 주제 분석부터 가상 연구 보조 역할에 이르기까지, 질적 연구에서 GenAI의 잠재적 응용 분야는 광범위해 보입니다. 본 논문은 GenAI가 어떤 기술적 인공물인지 근본적인 질문을 던지고, 질적 데이터 분석에 적합한지 평가합니다.
특히 대규모 언어 모델(LLM)에 초점을 맞춰 GenAI에 대한 접근 가능하고 기술적으로 정보에 입각한 분석을 제공하며, 질적 데이터 분석에서 GenAI 사용의 혁신적 잠…
인공지능 분야에서 일반 추론 능력은 오랜 난제였습니다. 최근 대규모 언어 모델(LLM)과 CoT(Chain-of-Thought) 프롬프팅 기법의 발전으로 기본적인 추론 작업에서 상당한 성과를 보였지만, 이는 방대한 양의 인간 주석 데이터에 크게 의존하며 복잡한 문제 해결에는 여전히 한계가 있었습니다.
본 연구는 인간이 직접 레이블링한 추론 궤적 없이 순수한 강화 학습(RL)만으로 LLM의 추론 능력을 효과적으로 향상시킬 수 있음을 보여줍니다. 제안된 RL 프레임워크는 자기 성찰, 검증, 동적 전략 적응과 같은 고급 추론 패턴의 자…
인간의 뇌는 시각 입력에서 객체, 공간적·의미론적 관계, 환경과의 상호작용 등 복잡한 정보를 추출하지만, 이를 정량적으로 연구하는 방법은 여전히 부족합니다. 본 연구는 대규모 언어 모델(LLM)에 인코딩된 맥락 정보가 뇌가 자연 장면에서 추출하는 복잡한 시각 정보를 모델링하는 데 유용한지 탐구합니다.
연구팀은 장면 캡션의 LLM 임베딩이 자연 장면을 볼 때 유발되는 뇌 활동을 성공적으로 특성화함을 보였습니다. 이 매핑은 다양한 뇌 영역의 선택성을 포착하며, 뇌 활동으로부터 정확한 장면 캡션을 재구성할 수 있을 만큼 견고합니다. 엄…
대규모 언어 모델(LLM)은 임상 환경에서 유용성이 기대되지만, 허위 정보를 생성하는 환각 현상이 문제로 지적됩니다. 특히, 프롬프트에 조작된 세부 정보를 삽입하여 모델이 거짓 정보를 생성하거나 정교화하도록 유도하는 적대적 공격으로 인한 환각은 심각한 위험을 초래할 수 있습니다. 본 연구는 이러한 적대적 환각 공격에 대한 LLM의 취약성을 다중 모델 분석을 통해 평가했습니다.
연구팀은 300개의 의사 검증 시뮬레이션 임상 시나리오를 개발했으며, 각 시나리오에는 조작된 실험 결과, 신체/방사선 징후, 또는 의학적 상태와 같은 단일 …