Caramel LabCaramel Lab
#

잘못된 정보

2편의 한국어 분석 — 최신순으로 정렬했어요

생물학발표 2026.08· 0

AI 시대 농식품 지식 거버넌스

인공지능(AI)이 농업 지식 접근의 주요 통로가 되고 잘못된 정보가 같은 디지털 채널을 통해 확산되면서, 농업 분야에서 지식 검증, 맥락 적합성, 책임성 문제가 심화되고 있습니다. 본 연구는 AI 기반 자문과 잘못된 정보가 야기하는 이러한 복합적 도전을 설명하기 위해 농식품 지식 거버넌스 개념을 제시합니다. 농업 지식 및 혁신 시스템, 디지털 농업 거버넌스, 농식품 오정보, 증언의 인식론 관련 문헌을 개념적으로 종합하여 분석 방법론을 구축했습니다. 분석 결과, 지식 거버넌스의 여섯 가지 핵심 기능이 도출되었습니다: 출처 및 추적…

컴퓨터 과학발표 2025.10· 67최근 1년 67회

도움이 독 될 때: LLM의 아첨과 의료 오정보 위험

대규모 언어 모델(LLM)은 유용성을 지향하는 훈련 과정에서 비논리적인 요청에도 순응하여 잘못된 정보를 생성할 수 있는 취약점을 보인다. 이는 모델이 해당 요청의 비논리성을 인지할 지식이 있음에도 불구하고 발생한다. 본 연구는 이러한 취약점이 의료 분야에서 어떻게 나타나는지 조사했으며, 동등 약물 관계를 오해하는 프롬프트를 사용하여 최신 LLM 5종을 평가했다. 연구는 기본 아첨 경향, 거부 허용 및 사실 회상을 강조하는 프롬프트의 영향, 그리고 비논리적 요청 데이터셋을 통한 미세 조정(분포 외 일반화 포함)의 효과를 테스트했다.…

연구 트렌드로 돌아가기