구글과 유튜브가 딥페이크(허위영상물) 등 인공지능(AI)이 만든 영상과 소리를 탐지해내는 도구를 개발하고 있는 것으로 확인됐다.
유튜브 측은 빠르면 내년부터 시범프로그램을 운영한다는 방침이다.
미국의 IT전문 매체인 폰아레나는 7일(현지시간) 구글과 유튜브가 콘텐츠 제작자를 보호하고자 인공지능(AI)이 제작자의 얼굴과 목소리를 사용할 경우 신속하게 알림을 받을 수 있는 도구를 개발하고 있다고 보도했다. 유튜브 사용자가 AI의 딥페이크 콘텐츠를 사실이라고 믿는 것을 방지한다는 목적이다.
유튜브의 크리에이터 제품담당인 암자드 하니프 부사장은 "유튜브의 저작권 보호 기술로 노래하는 목소리를 시뮬레이션하는 AI콘텐츠를 감지하고 관리할 수 있다"며 "배우, 운동선수, 크리에이터, 음악가 등 다양한 사람들이 스트리밍 플랫폼에서 자신의 얼굴을 이용한 AI 생성 콘텐츠를 찾아 관리할 수 있다"고 밝혔다.
하니프 부사장은 "최근의 개인정보 보호 업데이트와 함께 AI가 유튜브에서 사람들을 묘사하는 데 어떻게 사용되는지 관리할 수 있는 강력한 도구 세트를 만들 것"이라고 말했다. 하니프 부사장이 언급한 도구는 AI가 생성한 합성 인물의 합성 음성을 감지할 수 있다. 유튜브는 현재 적용 중인 저작권 보호 기술로 크리에이터의 지적재산이 무단으로 포함된 콘텐츠를 찾는 데 사용되고 있다. 유튜브는 AI에도 동일한 수준의 보안을 적용할 생각이다.
하니프 부사장은 "AI가 발전함에 따라 우리는 AI가 인간의 창의성을 대체하는 것이 아니라 향상시켜야 한다고 믿는다. 우리는 (AI로 인한) 우려 사항을 해결하고자 보호장치를 계속 개발할 것"이라며 "책임감 있는 혁신이 활발해질 수 있는 환경을 조성하는 데 중점을 두고 있다"고 강조했다.
