NB-Net: 신경망 너비 확장을 위한 생체 모방 프레임워크

딥러닝은 다양한 분야에서 놀라운 성공을 거두었지만, 대부분의 연구는 네트워크 깊이 증가에 집중되어 너비 확장에 대한 체계적인 탐색은 부족했습니다. 생물학적 신경계 구조에서 영감을 받아, 신경망 너비를 확장하면 특징 공간의 해상도를 높여 더 풍부하고 미세한 시각적 특징을 포착할 수 있습니다. 본 연구는 생물학적 뉴런의 수상돌기와 축삭 형태 구조에서 영감을 받은 새로운 아키텍처인 NB-Net(Neuron Bundle Network)을 제안합니다. NB-Net은 혁신적인 듀얼 1x1 컨볼루션 융합 메커니즘을 통해 다중 브랜치 특징 통합을 혁신합니다. 이 메커니즘은 다양한 컨볼루션 레이어와 어텐션 모듈을 사용하여 여러 병렬 처리 경로를 집계합니다. 듀얼 1x1 컨볼루션 융합 메커니즘은 점진적인 차원 축소와 향상된 기울기 안정성을 제공하여 기존의 단일 단계 병합 작업보다 우수한 특징 통합을 가능하게 합니다. 이 프레임워크는 안정적인 기울기 흐름을 위한 듀얼 1x1 컨볼루션 2단계 병합, 어텐션 통합을 위한 적응형 학습률 스케일링, 그리고 융합 전략을 통한 커널 다양성 조율 등 여러 핵심 혁신을 포함합니다. 제안된 듀얼 1x1 컨볼루션 메커니즘은 성능 향상을 이끌어 효율적인 구조적 희소성 및 특징 융합과 함께 경쟁력 있는 결과를 달성했습니다. 이는 신경망 너비 확장의 잠재력을 입증하며, 향후 딥러닝 모델 설계에 새로운 방향을 제시합니다.