[PAPER REVIEW] OBSAN: An Out-Of-Bound Sanitizer to Harden DNN Executables (NDSS'23)

BACKGROUND

https://www.ndss-symposium.org/wp-content/uploads/2023/02/ndss2023_f103_paper.pdf

딥러닝(DNN)

• 고차원 데이터(이미지 등)를 처리하고 예측 수행
• 순방향 전파, 역방향 전파와 같은 양방향 연산이 수행됨. 순방향 전파는 뉴런 활성화를 이용하여 입력을 예측하고, 역방향 전파는 레이어를 통해 출력에서 입력으로 gradient를 전파하여 예측하는 방식

딥러닝 컴파일러

• DNN 모델을 입력으로 받아 CPU 및 GPU와 같은 하드웨어 아키텍처에 최적화된 DNN 실행 파일 생성
• 리얼월드 시나리오에서 광범위한 컴퓨팅 플랫폼에 딥러닝 기술 사용이 늘어가고 있으며, 복잡한 배포 환경을 처리하고 컴퓨팅 플랫폼을 최대한 활용하기 위해 DL 컴파일러가 유용함
• 아마존, 구글 등 클라우드 서비스 제공업체도 성능 향상 위해 DL 서비스에 DL 컴파일러 포함

딥러닝 실행파일에서의 OOB

• 순방향 전파의 뉴런 활성화와 역방향 전파의 기울기가 유효한 범위를 벗어나면 OOB로 간주
• OOB는 비정상적인 DNN의 입력과 관련되어 잘못된 예측을 유발하거나 적대적 예제(AE, Adversarial Example)로 악용될 수 있음

sanitizer

• 기능: 실행파일 강화, 버그 탐지
• 컴파일 과정에서 프로그램을 계측하고 런타임에 안전하지 않은 작업이 수행되면 알람을 발생시키는 검사를 삽입함

 

MOTIVATION

• 리얼월드 시나리오에서 딥러닝(DL) 컴파일러가 적용되고 있음에도, DNN 실행 파일을 보호할 수 있는 기술이 없음
  • DNN 모델의 실행 적합성을 검증, 익스플로잇 또는 AE 탐지, 퍼징 실행 기술이 제안되었지만, 대부분 Tensorflow나 Pytorch와 같은 DL 프레임워크에서 실행되는 DNN 모델과 관련된 기술임
  → DNN 실행파일의 OOB(Out-of-Bound)를 검사하는 sanitizer인 OBSAN 제안
• 소프트웨어 sanitizer에서 영감
• → C/C++ 프로그램으로 컴파일된 실행파일을 안전하게 보호하는 sanitizer 사례에서 영감을 받아, DNN 실행파일의 OOB 동작과 같은 비정상적인 동작을 탐지하는 sanitizer 제안
• 딥러닝의 OOB 동작
  • 뉴런 활성화와 gradient가 정상 범위에 속해야 양성 입력으로 간주되며, OOB 뉴런 활성화나 기울기는 적대적 예제(AE)나 DNN의 잘못된 동작으로 이어질 수 있음

DESIGN

• 정방향, 역방향 전파에서 OOB 탐지할 수 있는 FOBSAN, BOBSAN 포함한 OBSAN 구현
  • FOBSAN: 뉴런 활성화와 알려진 안전 범위 비교하여 비정상적인 입력 발견
  • BOBSAN: gradient로 인코딩된 정보를 활용하여 비정상적인 입력 발견
• OBSAN의 런타임 오버헤드 해결
  • 양자화(quantization): 부동소수점 숫자 계산을 정수 계산으로 대체 → 추론 및 탐지 정확도 유지하면서 계산 및 저장 요구 사항 낮춤
  • DNN layer pruning 기술 확장: DNN에서 중요하지 않은 레이어 식별하여 OBSAN 검사 제거

IMPLEMENTATION

FOBSAN, BOBSAN 설계

• DL 컴파일러인 TVM의 IR 수준에서 설계 → 서로 다른 DL 프레임워크 간 설계 불일치 우회 가능

EVALUATION

• 3가지 대규모 DNN 모델 평가
  • FOBSAN과 BOBSAN 모두 AE에 대해 오탐률 0.5% 미만의 OOB 탐지 성능 보임
  • FOBSAN은 오버헤드가 121.3% → 47.6% 감소, BOBASAN 오버헤드 -34.3% 감소
• 2가지 downstream 애플리케이션에 적용한 결과, 온라인 AE 생성을 방지
• DNN 실행 파일에 대한 피드백 기반 퍼징을 용이하게 하는 방법 제시

 

CONCLUSION

CONCLUSION

DNN 모델을 실행 파일로 컴파일하는 추세가 늘지만 DNN 실행파일을 보호하는 기술이 없는 문제에 대해 OOB 동작을 검사하는 sanitizer인 OBSAN 제안함. OBSAN은 높은 OOB 탐지 성능을 보이고 런타임 오버헤드도 효과적으로 줄임.

CONTRIBUTION

• 처음으로 OOB를 검사하여 DNN 실행파일을 보호하는 기술인 OBSAN 제안
• OBSAN이 순전파와 역전파에서의 OOB 동작을 탐지하고, 최적화 기법을 통해 OBSAN의 오버헤드를 효과적으로 줄임
• 대규모 DNN 모델로 평가한 결과, 적은 비용의 새니타이저를 보이고 다운스트림 애플리케이션에서 높은 효과성을 보임