2026년 41주차 · 급상승 연구 주제
컴퓨터 과학 · Adversarial Robustness in Machine Learning
연 1,762 → 4,803편
분야 평균 대비 +141%p
자율주행, 의료 진단 등 민감한 분야에 AI 적용이 확대되면서, 미묘한 입력 변화에도 오작동할 수 있는 AI 모델의 취약점을 보완하고 신뢰성을 높이는 연구가 중요해졌습니다.
출판량은 OpenAlex 전수 데이터를 최근 12개월과 직전 12개월로 나눠 비교한 값이에요. 분야 전체가 함께 커지는 착시를 빼기 위해 분야 중앙값 성장률을 차감한 초과 성장(+141%p)으로 순위를 매겼어요.
학부·석사 수준에서 실제로 착수 가능한 스케일로 좁힌 방향이에요. 마음에 드는 걸 고르면 카라멜 조교가 이어서 구체화해 줘요.
이미지 분류 모델에 대한 적대적 공격 방어를 위한 새로운 훈련 기법 개발
아이디에이션2자연어 처리 모델의 적대적 예시 탐지 및 필터링 시스템 구축
아이디에이션3강건성 향상 기법이 모델의 일반화 성능에 미치는 영향 분석
아이디에이션인용 속도와 최신성으로 고른 논문이에요. 한국어 요약을 먼저 보고, 원문은 8개 섹션 풀 분석으로 이어갈 수 있어요.
A Primer on Bayesian Neural Networks: Review and Debates
신경망은 다양한 문제 영역에서 뛰어난 성능을 보였지만, 예측의 과신, 해석력 부족, 적대적 공격 취약성 등 내재적 한계로 인해 광범위한 적용에 제약이 있었습니다. 이러한 문제 해결을 위해 불확실성 추정 기능을 통합한 베이즈 신경망(BNN)이 기존 신경망의 강력한 확장으로 부상하고 있습니다. 본 입문서는 신경망과 베이즈 추론의 기본 개념을 체계적으로 소개하고, BNN 개발을 위한 두 분야의 시너지적 통합을 명확히 설명합니다. 베이즈 방법에 익숙하지만 딥러닝 전문성이 부족한 통계학자, 또는 딥러닝에 능숙하지만 베이즈 통계 지식이 제한…
Participant-Aware Model Validation for Repeated-Measures Data: Comparative Cross-Validation Study
생체역학 및 디지털 헬스 분야의 반복 측정 데이터는 참가자별로 상관관계가 있는 여러 시행 데이터를 포함한다. 이때 교차 검증(CV)이 이러한 데이터 구조를 무시하면, 훈련 데이터에서 테스트 데이터로 정보가 유출되어 모델 성능이 과대평가되고 임상적 신뢰성이 저해될 수 있다. 본 연구는 이러한 문제 인식을 바탕으로 참가자 인지(participant-aware) 검증 전략이 반복 측정 분류 작업에서 모델 신뢰성에 미치는 영향을 평가했다. 전방 십자인대 재건술(ACLR) 후 재부상 두려움 예측을 사례 연구로, 72명의 ACLR 환자로부터…
Training large language models on narrow tasks can lead to broad misalignment
대규모 언어 모델(LLM)의 확산은 안전성과 정렬에 대한 중요한 질문을 제기한다. 기존 안전 연구는 유해한 고정관념 강화나 위험한 정보 제공과 같은 개별적인 바람직하지 않은 행동에 주로 초점을 맞췄다. 본 연구는 이전 작업에서 관찰된 예상치 못한 현상, 즉 LLM을 불안정한 코드 작성이라는 협소한 작업에 미세 조정할 경우 코딩과 무관한 광범위한 우려 행동이 발생하는 현상을 분석한다. 이러한 현상을 '긴급 오정렬(emergent misalignment)'이라 명명한다. 이는 OpenAI의 GPT-4o와 Alibaba Cloud의 Q…
