오세훈 시장, 류희림 방심위원장과 '딥페이크 음란물 영상 삭제지원' 업무협약
'서울시디지털성범죄 안심지원센터→방심위' 영상 삭제·차단 요청 절차 간소화
AI기반 모니터링·자동신고·삭제 시스템도 구축…吳 "피해자 홀로 두지 않아"
'서울시디지털성범죄 안심지원센터→방심위' 영상 삭제·차단 요청 절차 간소화
AI기반 모니터링·자동신고·삭제 시스템도 구축…吳 "피해자 홀로 두지 않아"
오세훈 서울시장(국민의힘 소속)과 류희림 방심위원장은 이날 시청에서 딥페이크 음란물 영상 삭제지원 업무협약을 맺었다. 텔레그램과 같은 폐쇄형 SNS에서 돌던 딥페이크 영상물이 음란사이트나 그 외 소셜미디어에까지 퍼져 피해 신고가 들어올 경우, 24시간 이내에 영상이 삭제·차단될 수 있게 조치하는 것이 그 내용이다.
여태까진 서울시 디지털성범죄 안심지원센터에서 방심위에 각종 증빙 자료를 제출하며 영상 삭제·차단 요청을 해야 했지만, 이번 업무협약을 통해 대량의 건수를 한번에 삭제 요청할 수 있게 됐다. 서울시는 이와 함께 오픈채팅방에 딥페이크 SOS 전담 상담창구를 개설, 피해지원관 2명을 배치해 범죄 신고 및 채증 방법을 안내한다.
피해자에게 필요한 수사·법률지원을 위해 서울디지털성범죄 안심지원센터로도 연결한다. 또 올 연말까지 피해 상황을 24시간 모니터링하면서 자동으로 문제의 영상을 삭제 신고하는 시스템을 구축하기로 했다. 서울연구원과 협력, AI기술을 활용해 피해 영상물 모니터링부터 삭제 신고까지 모든 과정을 자동 수행하는 방안이다.
오세훈 시장은 이날 오후 페이스북을 통해 "서울시는 2022년부터 서울디지털성범죄안심지원센터를 운영하며 피해자 보호시스템을 구축해왔으나 이번 사태의 경우 해외서버 기반의 텔레그램 특성상 가해자 특정과 수사에 어려움을 겪고 있다"며 "사안의 시급성을 고려해 오늘 방심위원장님과 긴급협약을 했다"고 직접 알렸다.
그는 "일단 '텔레그램 밖' 딥페이크 피해 영상물 발견 시 신속 삭제 시스템을 가동하는 것이 주요 내용이고, '텔레그램 내'에서 발견된 것도 방심위를 통하면 삭제율이 현저히 높아진다. 서울시장으로서 약속드린다. 피해자 여러분을 결코 홀로 두지 않겠다"며 "전담 피해지원관이 여러분을 끝까지 도울 것"이라고 피력했다.
오 시장은 또 "이런 때일수록 우리는 더욱 강력한 예방 교육과 인식 개선에 힘써야 한다. 딥페이크 영상물 제작 및 유포가 명백한 범죄행위라는 인식을 사회 전반에 확고히 심어야 한다"며 "경찰·교육청 등 관계기관과 긴밀히 협력해 불법 영상물 유포자에 대한 철저한 수사와 신속한 법적 조치를 위해 모든 역량을 집중하겠다"고 했다.
한기호기자 hkh89@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
