2026년 30주차 · 급상승 연구 주제
컴퓨터 과학 · Adversarial Robustness in Machine Learning
연 1,670 → 4,413편
분야 평균 대비 +136%p
딥러닝 모델이 다양한 분야에 적용되면서, 악의적인 입력(적대적 공격)에 취약하다는 점이 밝혀졌다. 모델의 예측 신뢰성을 확보하고 보안 위협에 대응하기 위해 적대적 강건성 연구가 중요해졌다.
출판량은 OpenAlex 전수 데이터를 최근 12개월과 직전 12개월로 나눠 비교한 값이에요. 분야 전체가 함께 커지는 착시를 빼기 위해 분야 중앙값 성장률을 차감한 초과 성장(+136%p)으로 순위를 매겼어요.
학부·석사 수준에서 실제로 착수 가능한 스케일로 좁힌 방향이에요. 마음에 드는 걸 고르면 카라멜 조교가 이어서 구체화해 줘요.
이미지 분류 모델에 대한 적대적 공격 방어 기법의 성능 비교 및 개선
아이디에이션2자연어 처리 모델의 적대적 예시 생성 및 이에 대한 강건성 확보 방안 연구
아이디에이션3의료 영상 진단 AI 시스템의 적대적 공격에 대한 취약점 분석 및 방어 전략 개발
아이디에이션인용 속도와 최신성으로 고른 논문이에요. 한국어 요약을 먼저 보고, 원문은 8개 섹션 풀 분석으로 이어갈 수 있어요.
The Verification Benchmarking Standard (Verification Intelligence series, Paper 11 of 12)
현재 인공지능(AI) 벤치마크는 시스템의 생성 능력, 즉 추론, 코드 품질, 언어 유창성 등을 주로 측정한다. 그러나 기업이 AI 시스템을 배포할 때 직면하는 재작업률, 검증 비용, 잘못된 완료 빈도, 그리고 검증된 정확한 결과물을 산출하는 데 드는 총비용과 같은 실질적인 문제들은 제대로 반영하지 못하고 있다. 본 논문은 이러한 생성 능력과 배포 신뢰성 간의 격차를 포착하기 위한 새로운 벤치마킹 표준을 제안한다. 이 표준은 일곱 가지 핵심 검증 지표를 중심으로 구축되어, AI 시스템의 실제 운영 환경에서의 성능을 종합적으로 평가한…
Safeguarding large language models: a survey
거대 언어 모델(LLM) 분야의 급속한 발전과 함께, 윤리적 사용을 보장하기 위한 강력한 안전 메커니즘, 즉 '안전장치' 또는 '가드레일' 개발의 중요성이 커지고 있습니다. 본 논문은 이 핵심 메커니즘의 현재 상태를 체계적으로 문헌 검토하고, 주요 과제와 다양한 맥락의 윤리적 문제를 다루는 포괄적인 메커니즘으로 발전시킬 방안을 논의합니다. 먼저, 주요 LLM 서비스 제공업체와 오픈소스 커뮤니티가 활용하는 안전장치 메커니즘의 현황을 설명합니다. 이어서 환각, 공정성, 프라이버시 등 가드레일이 강화해야 할 바람직하거나 바람직하지 않은…
C++17 Staged Toy Simulation for STA Pre-Commitment Controllability
본 연구는 STA(Signal-Time-Authority) 시리즈의 두 번째 논문으로, 이전 논문에서 제시된 STA 사전 약정 제어 가능성 프레임워크를 C++17 기반의 합성 토이 시뮬레이션을 통해 검증합니다. 이 시뮬레이션은 제어 프레임워크의 실현 가능성과 효과를 탐색하기 위해 설계되었습니다. 연구는 Stage 1부터 Stage 8까지의 광범위한 결과를 통합합니다. 여기에는 반증(falsification), 구성 요소 제거(component ablation), 수정된 제거, 경계 민감도 분석, 인간 지연 시간 임계값, 안전 여유…
