Caramel LabCaramel Lab
#

대규모 언어 모델

20편의 한국어 분석 — 최신순으로 정렬했어요

컴퓨터 과학발표 2026.10· 2최근 1년 2회

테이블 데이터 언어 모델링: 최신 동향

다양한 분야에서 널리 사용되는 테이블 데이터는 이질적인 특성과 복잡한 구조적 관계로 인해 분석에 어려움이 있습니다. 높은 예측 성능과 견고성을 달성하는 것은 수많은 응용 분야에서 중요합니다. 최근 자연어 처리, 특히 트랜스포머 아키텍처의 발전은 테이블 데이터 모델링을 위한 새로운 방법론을 이끌어냈습니다. 초기 기법들은 트랜스포머를 처음부터 사전 학습하는 데 집중했으나, 확장성 문제에 직면했습니다. 이후 BERT와 같은 사전 학습된 언어 모델을 활용하는 방법들이 개발되어 더 적은 데이터로도 향상된 성능을 보였습니다. GPT, LLaM…

컴퓨터 과학발표 2026.10· 12최근 1년 12회

거대 언어 모델 기반 코드 생성 계획

본 연구는 그리드 기반 환경에서 대규모 언어 모델(LLM)을 활용하여 해석 가능하고 실행 가능한 프로그램을 합성하는 반복적 프로그래밍 계획(IPP) 프레임워크를 제안합니다. 이 프레임워크는 기존의 탐색이나 강화 학습 방식 대신, 환경 상태를 행동 시퀀스에 매핑하는 에이전트 정책으로 작동하는 코드를 생성합니다. 직접 코드 생성, 의사코드 기반 정제, 커리큘럼 기반 프롬프트 전략과 더불어, IPP는 거친 수준의 작업별 피드백을 통해 코드를 업데이트하는 반복적 정제 메커니즘에 중점을 둡니다. 여섯 가지 주요 LLM과 두 가지 도전적인 …

컴퓨터 과학발표 2026.09· 1최근 1년 1회

코드 LLM 어댑터 병합을 통한 자동 프로그램 복구

대규모 언어 모델(LLM)은 프로그램 복구, 문서화, 코드 리팩토링 등 다양한 소프트웨어 개발 관련 작업에서 뛰어난 성능을 보였습니다. 그러나 이러한 모델의 훈련에는 막대한 데이터와 상당한 컴퓨팅 자원이 필요합니다. 어댑터는 전체 모델을 재훈련할 필요 없이 특정 작업, 도메인 또는 애플리케이션에 맞춰 LLM을 효율적으로 미세 조정하기 위해 설계된 작고 특화된 모듈입니다. 모델 및 어댑터 병합은 최소한의 훈련 또는 훈련 없이 여러 작업을 수행할 수 있는 단일 모델을 개발하는 기술로 부상했습니다. 본 연구에서는 MergeRepair …

컴퓨터 과학발표 2026.09· 0

저작자 분석 동향 및 과제: ML, DL, LLM 접근법

저작자 분석은 법의학 언어학, 학술 연구, 사이버 보안, 디지털 콘텐츠 인증 등 다양한 분야에서 중요한 역할을 수행합니다. 본 논문은 저작자 귀속(Authorship Attribution)과 저작자 검증(Authorship Verification)이라는 두 가지 핵심 하위 작업을 중심으로 2015년부터 2024년까지의 연구를 체계적으로 검토합니다. 이 연구는 전통적인 머신러닝(ML) 방식부터 딥러닝(DL) 모델, 그리고 대규모 언어 모델(LLM)에 이르는 최신 방법론들을 탐구하며, 이들의 발전 과정, 강점, 그리고 한계를 조명합니…

재료공학발표 2026.09· 0

다중 에이전트 LLM 기반 단일 원자 촉매 설계

대규모 언어 모델(LLM)은 자연어 처리 외에도 복잡한 과학 문제 해결에 활용되며, 기존 기계 학습 방식과 달리 추론 및 맥락 학습 능력을 통해 재료 발견 분야에 새로운 패러다임을 제시하고 있습니다. 본 연구는 산소 환원 반응을 위한 고성능 단일 원자 촉매를 발견하기 위해 다중 에이전트 기반 추론 및 최적화를 통한 전기 촉매 탐색(MAESTRO) 프레임워크를 제안합니다. MAESTRO는 전문화된 역할을 가진 여러 LLM이 협력하여 자율적인 설계 루프 내에서 작동합니다. 각 에이전트는 반복적으로 추론하고, 촉매 수정안을 제안하며, …

컴퓨터 과학발표 2026.08· 18최근 1년 18회

Sa2VA: 이미지 및 비디오 밀집 접지 이해 통합 모델

기존 멀티모달 대규모 언어 모델(MLLM)은 특정 모달리티 및 작업에 국한되는 한계가 있습니다. 본 연구는 이미지와 비디오 모두에 대한 밀집 접지 이해를 위한 최초의 포괄적이고 통합된 모델인 Sa2VA를 제안합니다. Sa2VA는 참조 분할 및 대화를 포함한 광범위한 이미지 및 비디오 작업을 지원하며, 최소한의 단일 단계 지시 튜닝만 필요합니다. Sa2VA는 기반 비디오 분할 모델인 SAM-2와 고급 비전-언어 모델인 MLLM을 결합하여 텍스트, 이미지, 비디오를 공유 LLM 토큰 공간으로 통합합니다. LLM을 활용하여 Sa2VA는…

전기·전자발표 2026.07· 2최근 1년 2회

LLM 기반 풍력 발전량 예측 딥러닝 모델

풍력 에너지는 전 세계 전력 수요 충족 및 탈탄소화 목표 달성에 중요하지만, 간헐적이고 비정상적이며 공간적으로 결합된 특성으로 인해 전력 시스템 통합이 어렵습니다. 특히, 초단기(10분) 및 단기(1시간) 풍력 발전량 예측은 실시간 전력 배분, 예비력 할당, 계통 안정성에 필수적이지만, 풍력 터빈 간의 후류 상호작용, 풍향·풍속 변화, 센서 노이즈 등으로 인해 여전히 도전 과제로 남아있습니다. 본 연구에서는 이러한 문제를 해결하기 위해 물리 정보 기반의 방향성 인식 대규모 언어 모델(LLM) 유도 동적 시공간 그래프 딥 네트워크(…

컴퓨터 과학발표 2026.07· 38최근 1년 23회

대규모 언어 모델 기반 지능형 에이전트 탐구

인공지능 분야의 오랜 목표인 지능형 에이전트 개념은 최근 대규모 언어 모델(LLM)의 발전으로 새로운 전환점을 맞이했습니다. LLM은 추론, 계획, 도구 사용 능력을 갖춘 정교한 에이전트 개발을 가능하게 하며, 자연어를 인지 및 상호작용의 보편적 인터페이스로 활용하여 자율 작업 보조부터 복잡한 사회경제 시스템 시뮬레이션에 이르기까지 다양한 실제 응용 분야로 빠르게 확장되고 있습니다. 본 연구는 LLM 기반 에이전트 분야를 통합적으로 조망하며, 단일 및 다중 에이전트 시스템을 핵심 구성 요소로 체계적으로 분석하는 조직 프레임워크를 …

컴퓨터 과학발표 2026.06· 40최근 1년 19회

LLM 기반 침입 탐지 및 설명 가능한 AI

네트워크 이상 탐지를 위한 머신러닝(ML) 기법은 위협 탐지 및 대응 시간을 크게 단축하며 효과적인 사전 예방 전략으로 부상하고 있습니다. 그러나 ML 모델 훈련 및 유지보수의 어려움과 잦은 오탐은 이러한 기술의 수용성과 신뢰도를 저해합니다. 이에 대응하여 설명 가능한 인공지능(XAI) 기술이 도입되었으나, 여전히 현장 실무자들의 수용도가 낮고 분석가 및 모델 관리자의 의사결정 요구를 충족시키지 못하는 한계가 있습니다. 본 연구에서는 대규모 언어 모델(LLM)이 이러한 문제를 해결할 독특한 접근 방식을 제공한다는 점에 주목합니다.…

컴퓨터 과학발표 2026.05· 18최근 1년 5회

LLM 기반 코드 분석: 구문 및 의미론적 통찰

코드 분석은 소프트웨어 공학에서 디버깅, 성능 최적화, 보안 평가 등 핵심적인 역할을 수행합니다. 기존 도구들은 언어 특정성, 복잡한 설정, 그리고 교차 언어 일반화의 한계가 있었습니다. 최근 대규모 언어 모델(LLM)이 다양한 코드 관련 작업에 유망하게 부상했지만, 근본적인 코드 분석 능력에 대한 탐구는 부족했습니다. 본 연구는 LLM의 코드 분석 능력을 평가하여, LLM 기반 프로그래밍 도구의 발전 가능성을 모색합니다. 인간 개발자의 코드 분석 방식(구문 분석, 정적 의미 추론, 동적 추론)에 맞춰 연구를 구성했습니다. C, …

컴퓨터 과학발표 2026.05· 23최근 1년 23회

장기 CoT 추론 LLM 연구 동향

최근 OpenAI-o1, DeepSeek-R1과 같은 대규모 언어 모델(RLLM)의 추론 능력 발전은 수학 및 코딩과 같은 복잡한 영역에서 인상적인 성과를 보였습니다. 이러한 성공의 핵심 요인은 추론 능력을 향상하고 복잡한 문제 해결을 가능하게 하는 장기 CoT(Long Chain-of-Thought) 특성 적용에 있습니다. 그러나 장기 CoT에 대한 포괄적인 조사는 여전히 부족하여, 기존 단기 CoT(Short CoT)와의 차이점 이해를 제한하고 '과잉 사고' 및 '추론 시간 확장'과 같은 문제에 대한 논의를 복잡하게 만듭니다. …

컴퓨터 과학발표 2026.01· 14최근 1년 14회

차세대 토큰 예측 기반 대규모 멀티모달 학습

텍스트, 이미지, 비디오 등 다양한 양식(modality)을 아우르는 통합 학습 및 생성 알고리즘 개발은 인공지능 분야의 오랜 난제였습니다. 대규모 언어 모델(LLM)에서 혁신을 이끈 차세대 토큰 예측(next-token prediction) 방식은 멀티모달 영역으로의 확장에 한계가 있었으며, 이미지 및 비디오 합성에 주로 사용되는 확산 모델(diffusion model)이나 비전 인코더와 언어 모델을 통합하는 복합 프레임워크가 여전히 지배적이었습니다. 본 연구는 차세대 토큰 예측 방식만으로 학습된 멀티모달 모델인 Emu3 제품군…

컴퓨터 과학발표 2026.01· 10최근 1년 10회

CTI-Thinker: LLM 기반 위협 지식 그래프 구축 및 공격 추론

사이버 위협 인텔리전스(CTI)는 지능형 지속 위협(APT) 방어에 필수적이지만, 기존 CTI 데이터는 비정형성, 단편성, 수동 의존성, 그리고 공격 기법과의 제한적인 의미 매핑으로 인해 하위 추론 작업의 정확도를 저해합니다. 또한, 전통적인 정보 추출 방식은 문맥 인지 및 프롬프트 변화에 대한 민감성 부족으로 인해 교차 문단 의존성, 신규 위협, 저자원 샘플 시나리오에서 일반화에 어려움을 겪습니다. 이러한 한계를 극복하고자, 본 연구는 대규모 언어 모델(LLM)과 ATT&CK 프레임워크 기반의 의미 정렬을 통합한 CTI 지식 그…

컴퓨터 과학발표 2025.12· 21최근 1년 21회

효율적인 멀티모달 대규모 언어 모델 연구

최근 멀티모달 대규모 언어 모델(MLLM)은 시각 질의응답 및 시각 이해·추론 분야에서 뛰어난 성능을 보였습니다. 그러나 방대한 모델 크기와 높은 학습 및 추론 비용은 학계와 산업 전반에 걸친 MLLM의 광범위한 적용을 저해하는 요인으로 작용했습니다. 특히 엣지 컴퓨팅 환경에서 효율적이고 경량화된 MLLM 연구의 잠재력은 매우 큽니다. 본 연구는 효율적인 MLLM의 현재 상태를 포괄적이고 체계적으로 검토합니다. 구체적으로 대표적인 효율적 MLLM의 발전 과정, 구조 및 전략에 대한 연구 현황, 그리고 다양한 응용 사례를 요약하여 …

컴퓨터 과학발표 2025.11· 24최근 1년 24회

지식 그래프와 LLM 기반 공급망 가시성 강화

오늘날 세계화된 경제에서 효과적인 위험 관리를 위해 포괄적인 공급망 가시성은 필수적이지만, 파트너 간 제한된 정보 공유로 인해 이를 달성하기 어렵습니다. 본 논문은 이해관계자 정보 공유에 직접 의존하지 않고 지식 그래프(KG)와 대규모 언어 모델(LLM)을 활용하여 공급망 가시성을 향상시키는 새로운 프레임워크를 제안합니다. 제안하는 제로샷(zero-shot) LLM 기반 프레임워크는 공개된 소스에서 다양하고 도메인 특화된 공급망 정보를 자동으로 추출합니다. 이를 통해 공급망 주체, 지리적 위치, 소유 구조, 제품 흐름 전반에 걸쳐…

컴퓨터 과학발표 2025.11· 19최근 1년 19회

대규모 언어 모델의 다단계 추론 연구

수십억 개의 매개변수를 가진 대규모 언어 모델(LLM)은 특정 훈련 없이도 소수의 예시만으로 학습하는 인컨텍스트 학습 능력을 보인다. 기존 모델들이 언어 과제에서 뛰어난 성능을 보였지만, 기본적인 추론 벤치마크에서는 한계를 드러냈다. 그러나 새로운 인컨텍스트 학습 접근법인 Chain-of-Thought는 이러한 벤치마크에서 강력한 다단계 추론 능력을 입증했다. 본 연구는 LLM의 다단계 추론 분야를 종합적으로 검토한다. 다단계 추론의 생성, 평가, 제어 방식을 체계화하는 분류법을 제시하고, 핵심 접근법과 미해결 과제를 심층적으로 …

컴퓨터 과학발표 2025.09· 34최근 1년 34회

생성형 AI의 질적 데이터 분석 활용: 분석인가, 단순 대화인가?

연구자와 기업가들은 질적 데이터 분석에 생성형 인공지능(GenAI) 도구를 적용하는 방안을 적극적으로 모색하고 있습니다. 자동 코딩 및 주제 분석부터 가상 연구 보조 역할에 이르기까지, 질적 연구에서 GenAI의 잠재적 응용 분야는 광범위해 보입니다. 본 논문은 GenAI가 어떤 기술적 인공물인지 근본적인 질문을 던지고, 질적 데이터 분석에 적합한지 평가합니다. 특히 대규모 언어 모델(LLM)에 초점을 맞춰 GenAI에 대한 접근 가능하고 기술적으로 정보에 입각한 분석을 제공하며, 질적 데이터 분석에서 GenAI 사용의 혁신적 잠…

컴퓨터 과학발표 2025.09· 591최근 1년 590회

강화 학습 기반 LLM 추론 능력 강화

인공지능 분야에서 일반 추론 능력은 오랜 난제였습니다. 최근 대규모 언어 모델(LLM)과 CoT(Chain-of-Thought) 프롬프팅 기법의 발전으로 기본적인 추론 작업에서 상당한 성과를 보였지만, 이는 방대한 양의 인간 주석 데이터에 크게 의존하며 복잡한 문제 해결에는 여전히 한계가 있었습니다. 본 연구는 인간이 직접 레이블링한 추론 궤적 없이 순수한 강화 학습(RL)만으로 LLM의 추론 능력을 효과적으로 향상시킬 수 있음을 보여줍니다. 제안된 RL 프레임워크는 자기 성찰, 검증, 동적 전략 적응과 같은 고급 추론 패턴의 자…

컴퓨터 과학발표 2025.08· 32최근 1년 32회

인간 뇌 시각 정보와 LLM 표현의 정렬

인간의 뇌는 시각 입력에서 객체, 공간적·의미론적 관계, 환경과의 상호작용 등 복잡한 정보를 추출하지만, 이를 정량적으로 연구하는 방법은 여전히 부족합니다. 본 연구는 대규모 언어 모델(LLM)에 인코딩된 맥락 정보가 뇌가 자연 장면에서 추출하는 복잡한 시각 정보를 모델링하는 데 유용한지 탐구합니다. 연구팀은 장면 캡션의 LLM 임베딩이 자연 장면을 볼 때 유발되는 뇌 활동을 성공적으로 특성화함을 보였습니다. 이 매핑은 다양한 뇌 영역의 선택성을 포착하며, 뇌 활동으로부터 정확한 장면 캡션을 재구성할 수 있을 만큼 견고합니다. 엄…

컴퓨터 과학발표 2025.08· 101최근 1년 100회

임상 LLM의 적대적 환각 취약성 분석

대규모 언어 모델(LLM)은 임상 환경에서 유용성이 기대되지만, 허위 정보를 생성하는 환각 현상이 문제로 지적됩니다. 특히, 프롬프트에 조작된 세부 정보를 삽입하여 모델이 거짓 정보를 생성하거나 정교화하도록 유도하는 적대적 공격으로 인한 환각은 심각한 위험을 초래할 수 있습니다. 본 연구는 이러한 적대적 환각 공격에 대한 LLM의 취약성을 다중 모델 분석을 통해 평가했습니다. 연구팀은 300개의 의사 검증 시뮬레이션 임상 시나리오를 개발했으며, 각 시나리오에는 조작된 실험 결과, 신체/방사선 징후, 또는 의학적 상태와 같은 단일 …

연구 트렌드로 돌아가기