
(DNN)²: 심층 신경망을 위한 이중 비음수 완화
(DNN)²: Doubly Non-Negative Relaxations for Deep Neural Networks
Hanna Jiamei Zhang, Alan Papalia, Michael Everett, David M. Rosen
신경망 검증(neural network verification) 분야에서 기존의 선형 계획법(LP)·반정치 계획법(SDP) 완화는 완화 격차(relaxation gap)가 커 보수적인 안전 보장에 그친다. 이중 비음수 계획법(DNN, doubly non-negative program)은 완전 양수 계획법(CPP)의 가장 저렴한 가해 완화로 SDP보다 엄격한 제약을 유지하지만, 규모가 커지면 내부점법(interior-point method)으로 풀기 어렵다는 한계가 있다. 연구팀은 Burer-Monteiro(BM) 인수분해를 DNN 공식화에 적용해 확장성을 확보하고, 비유일한 쌍대 승수 공간을 탐색하는 고유값 최대화 절차를 통해 전역 최적성 인증을 가능하게 했다. 실험에서 제안 방법 (DNN)²는 표준 SDP보다 일관되게 더 타이트한 경계를 생성하며 종종 정확해(exact solution)에 근접하는 결과를 보였다. 이 연구는 안전 임계 자율 시스템에 신경망 제어기와 인지 모듈을 배포하기 위한 인증 가능한 검증 방법론의 기초를 제시한다.




