좌표-범주 데이터(벡터와 범주 정보의 조합)로부터 물성을 예측하는 것은 재료 과학에서 형성 에너지나 탄성 계수를 예측하는 등 계산 과학의 근간을 이룹니다. 최근 거대 언어 모델(LLM)이 이러한 작업에 적용되고 있으나, 신뢰할 수 있는 예측을 위한 최적의 전략은 여전히 불분명합니다.
본 연구는 LLM이 좌표-범주 데이터의 좌표 정보를 학습하는 데 근본적인 한계가 있음을 밝힙니다. 좌표 및 범주 기여도를 조절할 수 있는 합성 데이터셋과 포괄적인 벤치마킹 프레임워크(MatText)를 활용한 체계적인 실험을 수행했습니다.
그 결과, …
무기 재료의 표적 발견은 방대한 조성 설계 공간과 포괄적 스크리닝의 높은 비용으로 인해 여전히 난제로 남아있습니다. 특정 작업에 특화된 생성형 AI는 효율적인 대안이지만, 실제 이점을 제공하기 전에 번거로운 학습 데이터 수집이 필요합니다. 반면, 범용 거대 언어 모델(LLM)은 특정 미세 조정 없이 단일 최적 재료 조성을 표적 생성하는 데 큰 잠재력을 보여주었습니다.
본 연구는 LLM이 대규모 설계 공간에서 특정 속성 공간의 전체 영역을 효과적이고 체계적으로 탐색할 수 있음을 입증합니다. 대규모 화학 공간에서 생성 작업의 벤치마크…
거대 다중 모달 언어 모델의 등장으로 과학은 AI 기반 기술 변혁의 기점에 서 있습니다. 이 새로운 모델과 도구 생태계는 문헌 검색, 연구 아이디어 생성 및 실험 수행, 텍스트 및 다중 모달 콘텐츠 제작, 그리고 동료 심사와 같은 과학적 작업 평가를 포함한 과학 연구 전반을 지원하는 것을 목표로 합니다.
본 조사는 AI 지원 과학 발견 분야의 핵심 기술, 평가 방법, 그리고 최신 동향을 대표하는 문헌들을 엄선하여 개괄적으로 제시합니다. 위에서 언급된 다섯 가지 주요 과제에 걸쳐 데이터셋, 방법론, 결과, 평가 전략, 한계점, 그리…
검색 증강 생성(RAG)은 외부 지식을 통합하여 AI 생성 콘텐츠의 관련성을 높이고 환각 현상을 줄이지만, 신뢰성, 안전성, 프라이버시, 공정성, 설명 가능성, 책임성 측면에서 새로운 위험을 야기합니다. 이러한 문제들은 RAG 시스템의 전반적인 신뢰성에 영향을 미치며, 현재까지 이들을 통합적으로 다루는 프레임워크는 부족합니다.
본 연구는 신뢰할 수 있는 RAG 시스템 구축을 위한 포괄적인 로드맵을 제시하여 이러한 격차를 해소합니다. 신뢰성 관련 주요 도전 과제, 기존 해결책, 그리고 미래 연구 방향을 체계적으로 분석합니다. 특히 …
거대 언어 모델(LLM)은 방대한 파라미터 기반의 지식 저장 능력을 통해 다양한 분야에서 뛰어난 성능을 보였지만, 환각 현상, 지식 업데이트의 어려움, 특정 도메인 전문성 부족 등의 한계를 지닌다. 외부 지식 기반을 활용하여 LLM을 보강하는 검색 증강 생성(RAG)은 이러한 제약을 완화하는 효과적인 대안으로 부상했다.
본 연구는 자연어 처리(NLP) 분야의 RAG 기술을 체계적으로 검토하며, 특히 검색기(retriever)와 검색 융합(retrieval fusion) 방식에 초점을 맞춘다. 질의 기반, 로짓 기반, 잠재적, 파라…
최근 연구에 따르면, 서비스형 미세 조정(fine-tuning-as-a-service) 비즈니스 모델은 심각한 안전 문제를 야기합니다. 사용자로부터 업로드된 소수의 유해하거나 겉보기에 무해한 데이터로 모델을 미세 조정할 경우, 모델의 안전 정렬(safety alignment)이 손상될 수 있습니다. 이러한 '유해 미세 조정 공격'은 학계와 산업계 모두에서 광범위한 연구 관심을 불러일으키고 있습니다.
본 논문은 유해 미세 조정의 위협 모델과 기본 가정을 체계적으로 정립합니다. 또한, 공격 설정, 방어 설계, 평가 방법론이라는 세 가…
거대 언어 모델(LLM)은 자연어 처리 분야에 혁신을 가져왔지만, 편향에 취약하다는 중대한 문제가 있습니다. 본 종합 리뷰는 LLM 편향의 발생 원인부터 현재의 완화 전략까지 포괄적으로 탐구합니다.
편향을 내재적 및 외재적 범주로 나누고, 다양한 자연어 처리(NLP) 작업에서 나타나는 양상을 분석합니다. 또한, 데이터 수준, 모델 수준, 출력 수준 접근 방식을 포함한 다양한 편향 평가 방법을 비판적으로 검토하여 연구자들에게 견고한 편향 탐지 도구 키트를 제공합니다.
완화 전략은 모델 이전, 모델 내, 모델 이후 기술로 분류하여 …
거대 언어 모델(LLM)은 정적인 정보에 국한된다는 한계를 지닌다. 검색 증강 생성(RAG)은 정보 검색(IR) 기술과 딥러닝을 결합하여 LLM이 최신 외부 정보를 동적으로 통합할 수 있도록 함으로써 이러한 한계를 극복한다. 이 방법론은 주로 텍스트 영역에 초점을 맞추며, LLM이 생성하는 그럴듯하지만 부정확할 수 있는 응답에 대한 비용 효율적인 해결책을 제공하여 실제 데이터를 통해 출력의 정확성과 신뢰성을 향상시킨다.
RAG는 성능에 영향을 미칠 수 있는 여러 개념을 통합하며 복잡성이 증가하고 있다. 본 논문은 RAG 패러다임을…
거대 언어 모델(LLM)은 다양한 분야에서 뛰어난 질문 답변 능력을 보여왔지만, 생태학 분야에서의 효과는 충분히 탐구되지 않았습니다. 인공지능 도구가 과학 연구 과정에 점차 통합됨에 따라, 생태학적 정보를 기억하고 통합하는 LLM의 잠재력을 이해하는 것이 중요합니다. 본 연구에서는 Gemini 1.5 Pro와 GPT-4o 두 가지 LLM의 생태학적 지식을 일련의 생태학 중심 과제를 통해 평가했습니다.
이 과제들은 종 분포 예측, 분포 지도 생성, 심각한 멸종 위기종 목록화, 위협 분류, 종 특성 추정 등 LLM의 능력을 평가합니다…
거대 언어 모델(LLM) 분야의 급속한 발전과 함께, 윤리적 사용을 보장하기 위한 강력한 안전 메커니즘, 즉 '안전장치' 또는 '가드레일' 개발의 중요성이 커지고 있습니다. 본 논문은 이 핵심 메커니즘의 현재 상태를 체계적으로 문헌 검토하고, 주요 과제와 다양한 맥락의 윤리적 문제를 다루는 포괄적인 메커니즘으로 발전시킬 방안을 논의합니다.
먼저, 주요 LLM 서비스 제공업체와 오픈소스 커뮤니티가 활용하는 안전장치 메커니즘의 현황을 설명합니다. 이어서 환각, 공정성, 프라이버시 등 가드레일이 강화해야 할 바람직하거나 바람직하지 않은…
거대 언어 모델(LLM)의 환각 현상, 즉 유창하지만 사실과 다르거나 논리적으로 모순된 출력은 교육, 헬스케어, 법률, 과학 연구 등 다양한 분야에서 LLM 활용이 증가함에 따라 중요한 문제로 부상하고 있습니다. 본 연구는 LLM 환각 현상의 원인을 체계적으로 조사하고 분석합니다. 특히 환각이 프롬프트 전략의 미흡에서 비롯된 것인지, 아니면 모델 자체의 내재적 행동에서 기인하는 것인지를 판별하는 새로운 프레임워크를 제시합니다.
연구는 GPT-4, LLaMA 2, DeepSeek 등 최신 LLM들을 대상으로 다양한 통제된 프롬프트 …