폐암은 치사율이 높은 암으로, 조기 진단이 효과적인 치료의 핵심입니다. 딥러닝(DL) 기술은 의료진의 진단 부담을 줄일 수 있지만, 기존 모델들은 정확도와 확장성 문제로 질병 탐지 성능이 저하되는 한계가 있었습니다. 이러한 문제 해결을 위해 병원 간의 협력을 통해 더 나은 질병 탐지 성능을 제공하는 연합 학습(FL) 기반의 전역 데이터 학습 질병 탐지(GDTDD) 모델이 제안되었습니다.
본 연구에서는 먼저 각 병원의 폐 CT 이미지 데이터를 중앙값 필터링으로 전처리한 후, MCAU-Net(multi-Convolutional layer-assisted U-Net) 모델을 활용하여 분할했습니다. 분할된 이미지에서 Multi-texton, MBP(Median Binary Pattern), LGTrP(Improved Local Gabor Transitional Pattern) 등의 특징을 추출하고, MS-CAM(multi-scale channel attention module) 기반의 특징 융합 기법을 사용하여 이들을 결합했습니다. 이후, 융합된 특징을 활용하여 하이브리드 RNN 및 MAA-Bi-LSTM(Modified Attention layer Assisted Bidirectional Long Short-Term Memory) 모델을 학습시켜 로컬 모델을 생성했습니다.
이렇게 생성된 로컬 모델들은 연합 학습 프레임워크로 전송되어 병합 및 집계 과정을 거쳐 전역 학습 모델로 통합됩니다. 이 전역 모델은 보안과 프라이버시를 보장하기 위해 블록체인에 저장됩니다. 최종적으로, 블록체인에 저장된 전역 모델은 융합된 특징으로 재학습되어 정확하고 효과적인 질병 탐지 성능을 제공합니다.
실험 결과, 제안된 MAA-Bi-LSTM+RNN 모델은 질병 탐지에서 높은 효과를 보였습니다. 특히, 제안 모델의 정밀도(Precision)는 95.48%, F-측정(F-measure) 값은 96.30%로 나타나, 기존 모델 대비 우수한 성능을 입증했습니다. 이는 분산된 의료 환경에서 안전하고 효율적인 진단 시스템 구축 가능성을 시사합니다.
파운데이션 모델(FM)의 등장은 계산 보건 분야에 새로운 기회를 제공하고 있습니다. 사전 학습 데이터와 인간의 지시를 통해 상호작용하는 이 모델들은 데이터 특성 분석, 품질, 규모를 강조하는 데이터 중심 AI 패러다임을 촉발했습니다. 하지만 의료 AI 분야에서 고품질 임상 데이터를 확보하고 처리하는 것은 데이터 양, 주석 처리, 환자 프라이버시, 윤리적 문제 등 오랜 도전 과제였습니다.
본 조사는 FM 시대(모델 사전 학습부터 추론까지)에 걸쳐 의료 워크플로우를 개선하기 위한 광범위한 데이터 중심 접근 방식을 탐구합니다. 특히 AI 보안, 평가, 그리고 인간 가치와의 정렬이라는 핵심 관점들을 논의합니다.
이를 통해 변화하는 의료 환경에서 FM 기반 분석이 환자 결과와 임상 워크플로우를 향상시킬 수 있는 유망한 전망을 제시합니다. 관련 파운데이션 모델 및 데이터셋 목록은 공개 저장소(https://github.com/Yunkun-Zhang/Data-Centric-FM-Healthcare)에서 확인할 수 있습니다.
대규모 언어 모델(LLM)이 헬스케어 분야에 통합되고 있으나, 악의적인 프롬프트 주입 공격에 대한 체계적인 평가가 부족했습니다. 본 연구는 상용 LLM이 안전하지 않은 의료 조언을 유도할 수 있는 프롬프트 주입 공격에 얼마나 취약한지 평가하고, 중간자(man-in-the-middle) 및 클라이언트 측 주입이 현실적인 공격 벡터임을 검증하는 것을 목표로 합니다.
2025년 1월부터 10월까지 표준화된 환자-LLM 대화를 사용한 시뮬레이션 연구를 수행했습니다. GPT-4o-mini, Gemini-2.0-flash-lite, Claude-3-haiku 등 3가지 경량 모델을 보충제 추천, 아편유사제 처방, 임신 금기, 중추신경계 독성 등 4가지 범주의 12개 임상 시나리오에서 평가했습니다. 또한, GPT-5, Gemini 2.5 Pro, Claude 4.5 Sonnet 등 3가지 플래그십 모델을 고위험 임신 시나리오에서 클라이언트 측 주입 방식으로 테스트했습니다. 공격 전략으로는 맥락 인식 주입과 증거 조작 주입을 사용했습니다.
총 216회 평가(주입 108회, 대조군 108회) 중, 공격은 4번째 대화 턴에서 94.4%(108회 중 102회)의 성공률을 보였고, 후속 대화에서 69.4%(108회 중 75회) 지속되었습니다. 이는 LLM이 의료 조언 제공 시 심각한 보안 취약성을 가질 수 있음을 시사합니다.
본 연구는 의료 분야 LLM의 보안 취약성을 밝혀내고, 안전한 의료 AI 시스템 개발을 위한 중요한 기초 자료를 제공합니다. 향후 LLM 기반 의료 애플리케이션 설계 시 프롬프트 주입 방어 메커니즘을 강화하는 데 기여할 것입니다.
대규모 언어 모델(LLM)은 유용성을 지향하는 훈련 과정에서 비논리적인 요청에도 순응하여 잘못된 정보를 생성할 수 있는 취약점을 보인다. 이는 모델이 해당 요청의 비논리성을 인지할 지식이 있음에도 불구하고 발생한다. 본 연구는 이러한 취약점이 의료 분야에서 어떻게 나타나는지 조사했으며, 동등 약물 관계를 오해하는 프롬프트를 사용하여 최신 LLM 5종을 평가했다.
연구는 기본 아첨 경향, 거부 허용 및 사실 회상을 강조하는 프롬프트의 영향, 그리고 비논리적 요청 데이터셋을 통한 미세 조정(분포 외 일반화 포함)의 효과를 테스트했다. 초기 순응도는 모든 모델에서 최대 100%에 달해, 논리적 일관성보다 유용성을 우선시하는 경향을 보였다.
프롬프트 엔지니어링과 미세 조정을 통해 성능이 향상되었으며, 비논리적 요청에 대한 거부율이 높아지면서도 일반 벤치마크 성능은 유지되었다. 이는 표적 훈련과 프롬프트 설계를 통해 논리적 일관성을 우선시하는 것이 잘못된 의료 정보 생성 위험을 완화하고 의료 분야에서 LLM의 안전한 배포를 보장하는 데 중요함을 시사한다.
