서비스 오동작·민감정보 유출
아직 완벽한 대응책 없는 상황
삼성·MS 등 대응기술 개발나서
아직 완벽한 대응책 없는 상황
삼성·MS 등 대응기술 개발나서
![[`디지털-뉴노멀`의 미래를 묻다] AI가 공격하면 AI로 방어… 진화하는 창 vs 방패](http://contents.dt.co.kr/images/202009/2020090302100551650001[1].jpg "[`디지털-뉴노멀`의 미래를 묻다] AI가 공격하면 AI로 방어… 진화하는 창 vs 방패")
AI(인공지능)가 자동차·드론·공장·도시 등 산업·사회 전반에 도입되고, 5G, 사물인터넷 등 네트워크 기술이 세상을 연결하면서 사이버 공격도 AI로 무장해 진화하고 있다. 이에 대응해 세계 각국과 기업들은 AI 시대에 맞는 보안기술과 안전한 디지털 생태계 확보에 사활을 걸고 있다.
전문가들에 따르면 AI 학습데이터를 위변조하거나 AI 모델을 공격하는 등 AI 서비스 오동작을 유발하거나 민감정보를 유출하는 식의 AI 대상 공격이 늘어나고 있지만 아직 완벽한 대응책은 없는 상황이다. 실제로 2016년, 마이크로소프트가 운영 중이던 AI 채팅봇을 입력데이터 조작을 통해 공격해 서비스가 중단되는 사례가 발생했다. IBM은 2018년 랜섬웨어 워너크라이에 AI 기반 악성코드 '딥로커(DeepLocker)'를 결합해 보안 시스템을 우회하는 것을 시연해 보였다. 후 웨이웨이 모바이크 창립자 겸 대표는 2018년 국제인공지능학회(AAAI)에서 생성적 적대 신경망(GAN)이나 순환신경망(RNN) 등 딥러닝 기술을 이용해 다형성 악성코드를 만드는 것을 보여줬다.
사이버 공격에 AI가 동원되고, AI를 공격 대상으로 하는 사례가 늘면서 각국 정부와 기업들은 AI를 이용해 방어하는 기술 확보에 박차를 가하고 있다. 현재 수준은 변종 악성코드 탐지 중심으로, 데이터 복원·분석은 초기 단계에 머문다.
EU(유럽연합)는 '포어사이트 프로젝트'를 통해 항공, 해군, 전력시설 등에 대한 AI 기반 해킹 시뮬레이션 플랫폼 개발을 목표로, 작년부터 2022년까지 4년 연구 프로젝트에 착수했다. 미 IARPA(정보고등연구기획국)는 그동안 알려진 방법보다 훨씬 빨리 사이버 공격을 예측하고 탐지하는 기술 개발을 목표로 2016년부터 'CAUSE'(Cyber-attack Automated Unconventional Sensor Environment) 프로젝트를 추진하고 있다. 삼성전자는 시큐리티팀 지능형 위협분석·예측 시스템, MS는 차세대 위협 인텔리전스 기술 등의 이름으로 '보안 인텔리전스' 기술을 개발·적용하고 있다.
우리 정부도 차세대 보안기술 개발의 중요 키워드로 'AI 기반 지능형 보안'을 정하고, AI를 동원한 기계해커 대응 등 기술 개발을 추진한다. 하드웨어와 소프트웨어 공급망과 IT시스템에 내재된 보안 취약점을 AI를 이용해 자동 탐지하고 위협에 자율적으로 대응하는 자동화 기술을 개발하고, 지능형 사이버위협으로부터 국가·사회 인프라와 기업 시스템 공격을 예측·탐지·분석·대응하는 지능형 사이버 보안관제·자동대응 기술 개발에 나선다.
시장전망 기관들은 사이버보안 내 AI 시장 규모가 지난해 87억 달러에서 2026년 4배 이상 커진 382억 달러로 성장할 것으로 전망한다. IoT를 포함한 커넥티드 디바이스 확산과 데이터 프라이버시 수요 증가 등이 시장 성장을 이끄는 주요 요인으로 분석한다.
인사이트파트너스는 보안솔루션 중에서도 AI 기술을 가장 효율적으로 적용할 수 있는 EDR(엔드포인트 위협탐지·대응) 솔루션 글로벌 시장 규모가 2017년 7억8550만 달러에서 2025년 약 8배인 58억7160만 달러로 성장할 것으로 내다봤다. 보안 데이터와 사이버 공격이 늘어나면서 빅데이터 보안 시장도 2017년 229억 달러에서 2025년 433억 달러로 커질 전망이다.
안경애기자 naturean@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
