대규모 원자 모델을 위한 그래프 신경망

대규모 원자 모델(LAM)은 밀도범함수 이론(DFT)으로 정의되는 원자 시스템의 바닥 상태 전위 에너지 표면(PES)을 보편적으로 표현하는 것을 목표로 합니다. 이러한 대규모 모델의 개발에는 스케일링 법칙이 중요하며, 모델 크기, 훈련 데이터셋, 계산 예산이 증가함에 따라 일반화 성능이 향상됨을 시사합니다. 본 연구에서는 LAM 시대를 위해 특별히 설계된 다층 그래프 신경망인 DPA3를 제안합니다. DPA3는 라인 그래프 시리즈(LiGS)를 기반으로 하며, 모델 파라미터 수의 확장성은 추가 레이어 스태킹을 통해 달성됩니다. 또한, 다중 작업 훈련 프레임워크 내에서 훈련 데이터 크기 스케일링과 모델 크기 스케일링을 분리하는 데이터셋 인코딩 메커니즘을 사용합니다. DPA3 모델은 스케일링 법칙을 따르며, 문제 지향적 전위 에너지 모델로 훈련했을 때 분자, 벌크 재료, 표면 및 클러스터 촉매, 2차원 재료, 배터리 재료 등 다양한 특징을 가진 시스템에서 대부분의 벤치마크 사례에서 우수한 정확도를 보였습니다. OpenLAM-v1 데이터셋으로 LAM으로 훈련된 DPA-3.1-3M 모델은 LAMBench 벤치마크 스위트에서 17개 다운스트림 작업 전반에 걸쳐 가장 낮은 제로샷 일반화 오류를 보이며 최첨단 성능을 입증했습니다. 이러한 성능은 즉시 사용 가능한 전위 모델로서 뛰어난 정확도를 제공하며, 다운스트림 과학 응용 분야에 필요한 미세 조정 데이터를 최소화할 수 있음을 시사합니다. 이는 재료 과학 분야에서 광범위한 응용 가능성을 가집니다.