지난해부터 불기 시작한 인공지능(AI) 열풍은 내년에도 더욱 거세게 불 전망이다. 디지털 혁신의 새로운 원동력으로 자리매김한 AI지만, 그 부작용에 대한 우려도 갈수록 커지고 있다. AI 4대 석학이자 올해 노벨상을 수상한 제프리 힌턴 캐나다 토론토대 교수는 최근 급격한 발전으로 통제 불능에 이른 AI로 인해 인류가 향후 30년 이내 멸종할 가능성이 최대 20%에 이른다는 견해를 밝히기도 했다. 이에 대해 학계·업계 내에선 반대 목소리도 물론 만만찮다.
이런 먼 미래와 달리 당장 내년에 생성형AI로 인해 사이버위협이 증가할 것이란 전망이 연이어 나오고 있다. 이미 올해 초 오픈AI와 마이크로소프트(MS)는 북한, 중국, 러시아, 이란 등과 연계된 해커들이 챗GPT를 사이버범죄에 활용하는 것을 확인하고 차단 조치를 한 바 있다.
최근 과학기술정보통신부와 한국인터넷진흥원(KISA)이 SK쉴더스, 안랩, 지니언스, MS, 구글 등 국내외 주요 정보보안 기업들과 함께 발표한 '2025년 사이버위협 전망' 보고서에서도 내년 생성형 AI를 악용한 사이버위협이 더욱 늘어날 것이란 경고가 담겼다. 보고서에 따르면 다크웹 중심으로 프로드GPT(사기), 웜GPT(악성코드 생성)와 같이 사이버범죄에 특화된 악성 AI모델이 다양하게 활용될 것으로 우려된다.
또 챗GPT와 같은 검증된 AI서비스를 활용해 맞춤형 스피어피싱 메일을 작성하거나, 취약점 탐색나 침투 등을 위한 공격도구를 개발하는 등의 악용사례가 증가할 것으로 예상된다. 딥페이크 피해 증가도 마찬가지로 우려된다.
특히 생성형AI가 기업 내부 시스템과 연동된 경우 민감 데이터의 노출과 오용 가능성도 커지게 된다. 이와 관련해 가트너는 2028년까지 기업 보안 침해사고의 25%가 AI에이전트 악용으로 인해 발생할 것이란 전망을 내놓기도 했다. 기업들이 안전한 생성형 AI 사용을 위해 도입 단계에서 보안을 내재화하고, 상시 모니터링 체계를 구축해 지속적으로 관리하지 않으면 기업활동 전반에 보안 리스크가 드러날 수 있음을 시사한다.
생성형AI로 인한 사이버위협 확대는 개별 기업·기관의 문제만이 아닐 수 있다. 올해 소프트웨어(SW) 공급망 보안이 화두가 됐듯, 사이버범죄자들은 보안체계에서 약한 고리를 파고들어 연쇄적인 피해 확산을 노린다. 대기업이나 주요 부처·기관이 철통방어를 하더라도 이들과 연결돼 있는 중소중견 기업·기관 등의 보안태세가 허술하다면 그대로 위험에 노출될 수 있는 것이다.
과기정통부가 최근 내놓은 '2024년 정보보호 공시 현황 분석 보고서'에 따르면, 올해 정보보호 공시를 한 총 746개사의 정보보호 관련 투자액은 전체 15.7%, 평균 11.0% 증가했다. 하지만 이 또한 대기업 주도로 거둔 결과로, 전체적으로 보안태세가 강화됐다고 보긴 어려운 측면이 있다.
KISA 정보보호 공시 종합 포털에 따르면, 올해 정보보호 공시 의무 대상 기업 655곳 가운데 정보보호 내부인력이 집계기간 중 평균적으로 1명도 없었던 기업이 38.2%(250곳)에 달한다.
또 의무 대상 기업 가운데 10%가량(65곳)은 연간 정보보호 투자액이 3000만원에도 못 미쳤다. 매출 3000억원 이상이거나 정보통신서비스 일평균 이용자 100만명 이상인 기업 등이 의무 공시 대상인데, 비교적 규모 있는 기업들임에도 불구하고 이런 결과가 나온다. 나머지 기업들의 상황은 더 열악할 게 뻔하다.
이런 상황에서 생성형AI로 인한 사이버위협 확산과 고도화가 이어지면 산업계 곳곳에서 '보안 폭탄'이 터질 수 있다. 결국 해답은 그동안 미진했던 중소중견기업과 기관들의 보안수준을 끌어올리는 것이다. 글로벌 화두인 제로트러스트 보안, SW공급망 보안을 빠르게 갖춰가는 동시에 국가 전반의 사이버복원력을 높이는 게 내년 사이버보안 분야 최대 과제로 꼽힌다.
![[팽동현의 테크픽] 생성형AI로 커지는 사이버위협…약한 고리부터 터진다](//contents.dt.co.kr/images/202412/2024123002109931081001[1].jpg "[팽동현의 테크픽] 생성형AI로 커지는 사이버위협…약한 고리부터 터진다")
![[팽동현의 테크픽] 생성형AI로 커지는 사이버위협…약한 고리부터 터진다](http://contents.dt.co.kr/images/202412/2024123002109931081001[1].jpg "[팽동현의 테크픽] 생성형AI로 커지는 사이버위협…약한 고리부터 터진다")
