인공지능(AI) 기술을 악용한 딥페이크 범죄가 무분별하게 확산되는 가운데 정부와 정치권이 처벌 강화 등 대책 마련에 나섰다. 그러나 법제화까지는 상당한 시일이 걸릴 것으로 예상된다.
신원식 국가안보실장은 1일 용산 대통령실 브리핑에서 딥페이크(허위 합성 영상·사진물) 등 최신 기술을 활용한 적대 세력의 사이버 공간의 '영향력 공작' 등에 대응하기 위해 '국가사이버안보기본계획'을 추진한다고 발표했다.
국정원과 외교부, 국방부, 과학기술정보통신부, 검찰, 경찰 등 14개 부처 합동으로 마련된 기본계획에는 딥페이크 문제를 포함해 가짜뉴스와 사이버 공격 등에 대응하는 100대 실천과제가 담겼다.
우선 사이버공간 상 '영향력 공작' 대응을 위해 범부처 합동 대응 방안을 마련·실행하고 포털·플랫폼 사업자 자율 규제를 강화하도록 조치하기로 했다. '영향력 공작'은 '선전·선동, 여론조작 등 비정상적 방법을 동원해 자신의 세력을 확대하는 전략·전법'을 뜻한다. 의도를 가진 특정 세력이 사이버 공간에 지역감정·남녀갈등 등을 유발하는 허위 정보, 가짜뉴스 등을 유포하는 경우 등이 해당한다.
국가정보원은 지난해 11월 중국 언론홍보업체들이 국내 언론사의 웹사이트로 위장해 친중·반미 콘텐츠를 유포한 사례를 적발한 적이 있다. 특히 최근에는 딥페이크 기술을 악용해 허위 정보의 신뢰를 높이는 사례도 증가하고 있다.
정부 관계자는 "사이버 공간에서 국론분열, 사회 혼란을 유발하는 가짜뉴스·허위 뉴스가 많다"며 "딥페이크 대응과 관련해서는 공세적 사이버 방어 활동 강화 항목에 포함됐다"고 설명했다. 정부는 해외에서 유발된 허위조작 정보와 영향력 공작에 효과적으로 대응하기 위해 '사이버안보기본법' 제정 등 관련 법제를 정비하기로 했다.
방송통신심의위원회도 최근 딥페이크 성범죄 영상물 등 관련 피해가 커지자 글로벌 협의체 구축에 나섰다. 방심위는 지난 29일 글로벌 온라인 안전 규제기관 네트워크 회원 기관 간 회의에서 글로벌 공동대응 협의 채널을 구축해 딥페이크 국제공조를 할 것을 공식 제안했다.
한국 정부가 딥페이크 등 대응에 적극 나서는 것은 그만큼 국내에서 발생하는 딥페이크 관련 범죄와 피해가 심각하기 때문이다.
미국 사이버 보안 업체 '시큐리티 히어로'가 최근 발표한 '2023 딥페이크 현황'을 보면 지난해 7~8월 딥페이크 음란물 사이트 10곳과 유튜브 등 동영상 공유 플랫폼 85곳에 올라온 영상물 9만5820건을 분석한 결과 딥페이크 음란물 대상 중 53%가 한국인으로 집계됐다.
월스트리트저널은 이 결과를 두고 "가짜 음란물을 생성·유포하는 세계적인 문제의 진앙이 한국이라는 것을 시사한다"고 평했고, 영국 BBC방송도 "한국이 딥페이크 음란물 비상사태에 직면했다"고 분석했다.
그럼에도 현행법으로는 딥페이크 범죄를 처벌할 수 있는 조항이 성폭력 범죄 처벌에 관한 특례법 14조 2항뿐이라 현실적인 한계가 있다는 게 전문가들의 지적이다. 딥페이크 영상물을 배포할 목적을 입증하지 않으면 처벌이 어렵다. 실제 딥페이크 관련 범죄 1심에서 징역형 집행유예가 선고된 사례가 절반을 넘는다. 디지털 성범죄 대응 예산은 내년 50억7500만원이 편성돼 올해보다 2억9300만원 늘었지만, 딥페이크 영상물을 걸러낼 기술 고도화 예산은 반영되지 않았다. 피해자 지원센터 예산도 줄어든 것으로 나타났다.
정치권에서도 딥페이크 근절 법안이 연이어 발의되고 있다. 김한규 더불어민주당 의원은 딥페이크 성범죄물 등 성착취 허위 영상물을 소지·구입·저장 또는 시청한 자도 처벌하는 법안을 발의했고, 같은 당 김남희 의원은 정보통신서비스 제공자들이 딥페이크 영상에 즉각적 조치를 할 수 있도록 하는 법안을 냈다. 김장겸 국민의힘 의원은 온라인 플랫폼 사업자에 인공지능 생성물 표기를 의무화하는 정보통신망법 개정안을 대표 발의했다.
김미경·한기호기자 the13ook@dt.co.kr
신원식 국가안보실장이 1일 서울 용산 대통령실 청사에서 '국가 사이버안보 기본계획'을 발표하고 있다. 연합뉴스
