AI 도입시 기업 침해비용 절감
시장 성장률 매년 9.4% 상승도
AI 활용 해킹 피해도 증가 추세
사이버 위협을 키우는 창인가, 사이버 위협에 방어하는 방패인가.
사이버 보안 위협 대응 인력이 부족한 상황에서 생성형 인공지능(AI)이 구원투수로 부상하고 있다. 반면 메일 피싱이나 랜섬웨어, 악성코드 제작 등 생성형 AI를 악용하는 사이버 범죄도 함께 늘어나고 있다. 이에 전문가들은 AI 기술의 발전은 사이버 보안 체계를 더욱 견고하게 하는 도구인 동시에 위협도 될 수 있어 주의가 필요하다고 강조한다. AI 기술의 발전이 사이버 보안에 긍정과 부정의 효과를 동시에 가져올 수 있는 '양날의 검'이 될 수 있다는 것이다.
5일 IBM '2024 데이터 유출 비용 연구 보고서'에 따르면 올해 보안 AI 및 자동화 솔루션을 도입한 기업이 67%로 작년보다 10% 증가했다. 보안 AI와 자동화를 광범위하게 도입한 기업은 이러한 기술을 사용하지 않은 기업보다 평균 98일 더 빨리 사고를 탐지하고 통제했다. 침해 비용 또한 평균 220만달러(약 30억원)를 절감했다. 보고서는 세계 604개 기업이 경험한 실제 데이터 유출에 대한 심층 분석을 기반으로 작성됐으며 국내 기업 28개가 연구 대상에 포함됐다.
IBM은 보고서에서 "(연구 대상의) 임원들이 지난해 AI 사이버 보안 관련 예산이 2021년 대비 51% 증가했다고 말했다"며 "그들은 오는 2025년까지 예산이 추가로 43% 증가할 것으로 예상했다"고 말했다.
최근 몇 년 새 AI 기술이 급격한 발전을 이루면서 AI가 보안 산업에 없어서는 안 되는 존재로 자리 잡고 있다. 수동으로 응답해 감지 방식이 느린 전통적 보안과 달리 AI를 활용하면 여러 사이버 공격에 대한 탐지와 분석을 자동화할 수 있기 때문이다.
시장조사기관 마켓앤마켓(Markets&Markets)에 따르면 글로벌 생성형 AI 사이버 보안 시장은 매년 연평균 성장률 9.4%를 보이며 지난해 1904억달러(약 259조6485억원)에서 오는 2028년에는 2985억달러(약 407조1241억원) 규모로 성장할 것으로 전망된다.
하지만 AI는 사이버 보안을 위협하기도 한다. AI 기반 시스템이 늘어나는 만큼 AI를 활용하는 해킹 피해 사례도 함께 늘어나고 있다. 생성형 AI를 활용한 공격에는 △피싱메일·스팸 △멀웨어·랜섬웨어 △취약점 노출 △민감데이터·개인정보 노출 △생성형 AI에 대한 공격 등이 있다 실제로 삼성SDS는 올해 초 '2024년 5대 사이버 보안 위협'을 선정하며 가장 큰 문제로 AI를 통한 사이버공격을 꼽았다. 국내 대기업과 공공부문 보안 전문가 700여명을 설문 조사한 결과다.
앞으로의 사이버 보안 업계는 AI를 악용한 공격과 AI를 활용한 방어 간 치열한 전쟁터가 될 것으로 전망된다.
최경진 가천대 법학과 교수(인공지능법학회회장)은 "AI는 사어버 위협을 막는데도 가하는데도 유용하다"며 "AI가 결국 사이버 위협을 고도화시키고 있기 때문에 막는 쪽에서도 AI 기술을 발전 시키는 것이 반드시 필요하다"고 말했다.김용대 카이스트 정보보호대학원 교수 또한 "AI로 사이버 공격을 하기 위해서는 취약점을 찾아야 하는데, 그 취약점을 누가 먼저 찾느냐에 따라 사이버 공격이 될 것이나 보안이 될 것이냐가 판가름 날 것"이라며 "현재 미국에서 AI가 해킹을 하고 자동으로 방어하는 대회가 진행 중인데, 이런 대회에서 볼 수 있듯이 사이버 보안에서 AI가 공격하는 입장이 될 수도 방어하는 입장이 될 수도 있기 때문에 수비(보안)하는 입장에서 먼저 취약점을 찾는 것이 중요할 것"이라고 강조했다.
