오는 4월 제22대 국회의원 선거를 앞두고 윤석열 대통령이 등장하는 조작 영상이 등장하는 등 AI(인공지능)을 활용한 딥페이크 기술 부작용이 심각해지면서 방송통신위원회가 주요 플랫폼들에게 선제적인 자율규제를 강구할 것을 주문했다.
25일 업계에 따르면 방통위는 지난 23일 네이버, 카카오, 구글, 메타, 엑스(옛 트위터), 바이트댄스(틱톡) 등 국내외 플랫폼 관계자들이 참석한 가운데 딥페이크 허위정보 대응 관련 자율규제 강화를 위한 민관협력 회의를 개최했다.
이날 회의는 최근 딥페이크 기술을 활용한 유명인 관련 허위조작정보가 SNS(사회관계망서비스) 등으로 확산되면서 실제 사기 피해가 발생하는 등 사회적 문제로 대두됨에 따라, 사업자가 즉시 취할 수 있는 피해 예방 대책을 논의하기 위해 마련됐다.
회의 참석자들은 인공지능(AI) 생성물 표시, 탐지 모니터링, 삭제·차단 조치 등과 관련된 자율규제 현황과 강화 방안 등에 대해 의견을 나눴다.
방통위는 앞서 지난 16일 구글, 마이크로소프트(MS), 메타 등이 참가해 독일 뮌헨안보회의(MSC)에서 발표된 협약에 대해 언급하며 국내 사업자들 역시 글로벌 기업의 자율규제 강화에 상응하는 조치를 요청했으며, 글로벌 사업자들에게도 국내 사업자 수준의 신속한 조치에 최선을 다해줄 것을 당부했다.
이상인 부위원장은 "딥페이크 허위정보로 인한 개인 피해와 사회적 혼란을 예방하기 위해서는 플랫폼의 자정 노력이 무엇보다 중요하다"며 "특히 올해는 전 세계적으로 큰 선거들도 앞두고 있는 만큼, 더욱 적극적이고 선제적인 자율규제에 나서달라"고 요청했다.
근시일 내 총선 관련 페이지를 오픈할 예정인 국내 양대 플랫폼도 딥페이크 대응책을 재정비하고 있는 것으로 알려졌다. 네이버는 이르면 이번주 총선 페이지를 오픈하고, 딥페이크 관련 키워드 검색 결과에 대해 '경고 꼬리표(라벨)'를 붙이는 방안을 검토하고 있다. 네이버는 이미 카페나 블로그에 콘텐츠를 업로드할 때 허위 정보나 딥페이크 등에 대한 주의 문구를 노출하고 있는데, 이를 검색 기능에서도 적용하는 등의 내용으로 예상된다.
또 네이버는 자체 AI 서비스인 클로바X에서는 사용자가 음란성 콘텐츠나 얼굴 합성을 요청할 경우 답변을 제공하지 않도록 했다. 카카오의 AI 자회사 카카오브레인은 이미지 생성 AI 모델 칼로가 생성한 이미지가 AI를 활용했다는 것을 알려주는 비가시성 워터마크 기술 도입을 검토 중이다.전혜인기자 hye@dt.co.kr
