몇 시간 안에 AI로 악성 도구 제작 가능
기업과 기관의 보안 환경 위협 가능성 ↑
"사이버보안은 경기이 따라 투자 줄이는 개념 아냐"
올해 인공지능(AI)이 사이버보안 전략의 핵심으로 자리 잡을 전망이다. 생성형 AI 서비스가 대중화되면서 챗GPT 같은 모델을 악용한 악성코드 제작, 자동화된 피싱 공격, 정교한 딥페이크 사기 사례가 증가하고 있기 때문이다. 특히 AI가 기업 내부 시스템과 연동되면서 개인정보 노출 위험이 커지고 있어 기업들의 보안에도 빨간불이 켜졌다.
◇전 산업에서 사이버 보안 위협↑= 사이먼 그린 팔로알토네트웍스 JAPAC(일본·아시아태평양) 총괄 사장은 14일 서울 역삼동 조선팰리스에서 열린 자사 컨퍼런스에서 "AI와 클라우드 도입으로 초연결 사회가 구현되며 시스템 복잡성이 증가했고, 이는 모든 산업 분야에서 사이버 위협 가능성을 높였다"고 강조했다.
이날 팔로알토네트웍스는 올해 주목해야 할 보안 트렌드를 발표하며, AI 시대에 진화하는 위협에 대비하기 위한 전략과 방향을 제시했다. 가장 중요한 트렌드로 AI 기반 사이버 위협의 증가가 꼽혔다. 생성형 AI를 악용한 악성코드 제작, 자동화된 공격, 딥페이크 사기 사례는 기업과 기관의 보안 환경에 심각한 위협을 가하고 있다는 것이다.
박상규 팔로알토네트웍스코리아 대표는 "AI는 더 이상 미래의 기술이 아니라 오늘날 기업 경쟁력을 좌우하는 핵심 도구"라며 "AI를 도입하는 기업들은 반드시 보안을 우선 고려해야 한다"고 강조했다. 그린 총괄 사장은 "불과 12개월 전만 해도 AI를 도입한 기업은 50%에 불과했지만, 현재는 96%의 기업들이 AI를 활용 중"이라며 "투자수익률(ROI) 압박 속에서도 AI와 관련된 보안 문제 해결은 더 이상 미룰 수 없는 과제"라고 말했다. 이어 "대학, 보건, 통신 등 전 산업군이 사이버 공격의 타깃이 되고 있다"며, 특히 공격자들이 AI를 활용해 위협을 가속화하고 있다고 경고했다. 또 "지난 2023년 기준 AI를 이용한 사이버 공격 무기가 이틀 만에 만들어졌으며, 이제 몇 시간 안에 제작 가능할 것으로 보인다"고 설명했다.
이날 발표에 따르면, 지난해는 주요 산업 분야에서 사이버 침해가 대규모로 발생한 해로 기록됐다. 특히 헬스케어, 자동차, 리테일 분야가 주요 타깃이 됐다.
공격의 속도와 정교함 또한 급격히 증가하고 있다. 취약점 무기화 소요 시간이 2022년에는 5일에서 2023년에는 단 2일로 단축됐으며, 앞으로는 몇 시간 이내로 줄어들 가능성이 높다. 실제로 AI와 클라우드 도입이 늘어나면서 발생한 보안 취약점은 해커들에게 새로운 기회를 제공하고 있다. 기업들이 보안 강화를 위해 조직을 정비하고 AI 기반 기술 도입을 서둘러야 하는 이유도 여기에 있다. 실제로 기업들의 해킹 피해 사례는 급증하고 있다. 한국인터넷진흥원(KISA)에 따르면 해킹 피해 기업 보호조치 건수는 2021년 4063건에서 2023년 9617건으로 두 배 이상 늘어났다.
과학기술정보통신부도 '2024년 사이버 위협 분석과 2025 전망 보고서'를 통해 올해 사이버 공격에 AI를 악용하는 사례가 본격화할 것으로 전망했다. AI 서비스 사용이 일반화되며 챗GPT와 같은 검증된 모델을 사용한 선전·선동이나 피싱 공격이 증가할 것이라는 설명이다. 보고서는 "생성형 AI가 기업 내부 시스템과 연동돼서 구축된 경우 민감한 데이터의 노출과 오용 가능성이 커진다"며 "기업들이 AI 모델 도입 단계에서 보안을 내재화하고 상시 모니터링 체계를 구축해야 한다"고 조언했다.
◇대비하려면?… 통합 플랫폼 시급= 이에 팔로알토네트웍스는 AI 시대 보안 대응의 전략으로 '플랫폼 통합'과 'AI 기반 실시간 보안'을 꼽았다. 플랫폼 통합은 기업들이 운영하는 복잡한 보안 도구들을 하나의 시스템으로 통합해 관리 효율성을 높이고 보안 공백을 최소화하는 데 초점을 맞춘다. 그린 총괄 사장은 "대부분 기관에서는 평균 50~60개의 보안 관련 툴을 사용하고 있는데 이는 처리해야 하고 관리해야 하는 것도 더 많아졌다는 이야기"라며 "AI가 전 기술을 통합하면서 여기에 필요로 하는 데이터의 양도 커지고 그에 따른 사이버 보안 관련 관리도 늘어나고 있다"라고 강조했다.대표적인 사례로, 글로벌 물류 기업과의 협업을 통해 팔로알토는 4개월 만에 30만 개의 XDR(Extended Detection and Response) 통합을 성공적으로 완료했다. 이를 통해 데이터 처리 속도가 크게 개선되었으며, 위협 탐지 시간이 기존 6일에서 25분으로 단축되는 성과를 거뒀다.
AI 기반 실시간 보안은 '프리시전 AI(Precision AI)'라는 이름으로 60초 내에 위협을 탐지하고 대응할 수 있는 시스템으로 구현됐다. 그린 총괄 사장은 "팔로알토는 매월 76페타바이트(PB)의 해킹 데이터를 관리하고 있다"며 "머신러닝, 딥러닝, 생성형 AI를 결합한 '프리시전 AI' 기술은 다양한 위협에 60초 내로 대응할 수 있도록 설계됐다"고 설명했다.
이 외에도 팔로알토는 올해 보안 트렌드로 △딥페이크 공격의 본격화 △양자 컴퓨팅 발전에 따른 데이터 탈취 위험 △복잡한 보안 도구를 단순화하는 통합 보안 플랫폼으로의 전환 △AI 모델의 투명성과 신뢰성 강화를 꼽았다.
박 대표는 "사이버 보안은 기업의 생존과 관련된 만큼 경기에 따라 투자를 줄이는 개념은 아니다"라며 "팔로알토 네트웍스는 약 20년 동안 보안 관련된 데이터만 수집하고 다뤄왔다. 데이터를 문맥에 맞게 해석하고 또 정밀하게 분석함으로써 해킹을 막고 있으며 이는 우리가 사이버 공격이 해결 가능한 문제라고 생각한다"고 강조했다.유진아기자 gnyu4@dt.co.kr
AI로 생성한 이미지. 챗GPT 제공
사이먼 그린 팔로알토 네트웍스 아태지역(JAPAC) 총괄 사장이 14일 열린 '이그나이트 온 투어 서울' 기자 간담회에서 발표를 하고 있다. 팔로알토 제공
