KAIST, 실시간 동작 물체 검출에 활용
재학습 필요 없고 성능 최적화...예측시간 줄여
AI(인공지능)의 핵심 기술인 딥러닝을 국방, 의료 등 실시간 물체 탐지에 활용할 수 있는 알고리즘이 개발됐다. 추가적인 네트워크나 재학습 없이 물체 검출 예측 시간을 줄여 적대적 공격을 방어하는 기술로 활용할 수 있을 전망이다.
KAIST는 노용만 교수 연구팀이 물체를 검출하는 딥러닝 신경망에 대한 적대적 공격을 방어하는 AI 알고리즘을 개발했다고 15일 밝혔다.
딥러닝 신경망 기술은 자율주행이나 물체검출 등 다양한 분야에서 핵심기술로 쓰이고 있다. 하지만, 적대적 패턴을 입력 이미지에 악의적으로 주입해 잘못된 예측 결과를 초래하는 등 적대적 공격에 취약하다. 적대적 패턴은 공격자가 검출이 되지 않기 위해 인위적으로 만든 패턴을 의미하는 것으로, 이 패턴이 포함된 물체를 검출하지 못하게 하는 것이다.
이 때문에 국방·보안을 위한 감시 정찰 분야에 적군이 적대적 패턴으로 위장해 침입하면 딥러닝 기반의 모델은 이를 검출하지 못해 큰 위험을 초래하게 된다. 적대적 패턴 공격을 막기 위해서는 추가로 복잡한 모듈이 필요하거나 네트워크를 처음부터 다시 학습시켜야 하기에 실시간 동작하는 물체 검출 알고리즘에 적용하기 어렵다.
연구팀은 물리적 환경에서 적대적 패턴 공격의 원리를 반대로 이용해 학습된 네트워크에 접근하지 않으면서 방어할 수 있는 프레임을 개발했다. 마치 창과 방패 간 싸움처럼 적대적 패턴과 함께 경쟁적으로 학습을 반복함으로써, 모든 적대적 패턴 공격에 높은 방어 성능을 갖도록 최적화한 것이다.
노용만 KAIST 교수는 "국방과 보안 분야에 AI를 활용하려면 완전성을 높여야 하는데, 이번에 개발한 방어 알고리즘을 적용하면 모델의 재학습 없이 적대적 패턴 공격을 방어할 수 있어 국방 감시정찰, 보안, 자율주행 등에 활용할 수 있다"고 말했다.
이 연구결과는 영상처리 분야 국제 학술지 'IEEE 트랜스액션스 온 이미지 프로세싱(지난 1일자)' 온라인에 실렸다. 이준기기자 bongchu@dt.co.kr
KAIST는 물체를 검출하는 딥러닝 신경망 기술에 대한 적대적 공격을 방어하는 AI 알고리즘을 개발했다. 사진은 적대적 공격에 대해 방어 프레임을 통해 방어하는 모식도.
