국내 총선을 비롯해 전 세계 총 76개국에서 선거가 치뤄지는 '슈퍼 선거의 해'를 맞아 각국 정부와 글로벌 빅테크들은 예상되는 리스크를 최소화하기 위해 힘쓰고 있다. 특히 최근 AI(인공지능)를 활용한 콘텐츠 생성이 늘면서 그로 인한 부작용을 막기 위해 각종 장치를 동원하고 있다.
유엔(국제연합)을 비롯해 EU(유럽연합), 영국, 미국 등은 AI 부작용을 최소화하기 위한 규제 제정에 나섰다.
미국과 영국은 이달 초 AI 기술의 안전성과 위험성 평가와 시험에 협력한다는 내용의 양해각서를 체결했다. 양국은 각각 연구원을 파견해 AI 기술과 정보 등을 교류하고, 글로벌 IT 기업이 만든 민간 AI 모델을 자체 평가하는 방법에 대해 협력한다는 방침이다. 시험 방안이 개발되면 최소 한 차례 공동 테스트를 할 계획이다. 미국은 지난달 28일 AI 기술을 업무에 활용하는 정부 기관들에 AI로 인해 자국민에게 피해가 가지 않게끔 안전장치를 마련하도록 하는 내용을 포함한 '연방 정부의 AI 기술 활용과 관련한 규제 및 혁신안'을 발표한 바 있다.
지난달 열린 유엔 총회에서도 회원국들이 AI의 안전한 사용에 관한 국제적인 합의를 마련해야 한다는 내용의 결의가 만장일치로 채택됐다. 국제사회가 AI 관련 결의를 공식 채택한 것은 이번이 처음이다. 결의안은 적절한 안전장치 없이 AI를 사용해서는 안 된다는 점과, AI의 부적절하고 악의적인 설계·개발·사용을 막아야 한다는 공감대를 담았다.
EU는 세계에서 처음으로 AI에 대한 규제법을 이미 도입했다. 지난달 13일(현지시간) 유럽의회는 프랑크 스트라스부르에서 열린 본회의에서 포괄적 AI 규제법인 'AI법'을 가결했다. 해당 법안은 올해 연말부터 단계적으로 도입돼 2026년 이후 전면 시행될 예정이다. 이 법은 AI 활용 분야를 총 네 단계의 위험 등급으로 나눠 차등 규제한다. 특히 의료·교육 등 공공 서비스를 비롯해 선거, 핵심 인프라 등은 '고위험 등급'으로 분류해 AI 기술 사용 시 사람이 반드시 감독하고 위험관리시스템을 구축하도록 했다.
글로벌 기업들도 관련 대응에 나섰다. 지난 2월 독일 뮌헨에서 열린 뮌헨안보회의에서는 구글, 메타, 마이크로소프트, 오픈AI, 틱톡 등 글로벌 주요 IT 기업들이 모여 올해 일어날 각국의 주요 선거에서 AI를 기만적으로 활용하지 않도록 노력하자는 내용의 'AI 선거협정'을 발표했다. 이들은 유해한 AI 콘텐츠의 온라인 배포를 막고, 관련 교육 캠페인 등을 통해 이 같은 콘텐츠의 위험성에 대한 인식을 강화하는 등의 노력을 하기로 했다. 페이스북과 인스타그램을 운영하는 메타는 다음달부터 이들 플랫폼에 게시되는 AI 생성 콘텐츠에 라벨을 부착해 이용자들이 알 수 있게 한다는 계획이다. 구글 역시 지난달부터 이용자들이 선거 등에서 AI 콘텐츠에 현혹되지 않도록 생성형 AI 기능으로 제작된 콘텐츠에 라벨을 붙이기 시작했다.전혜인기자 hye@dt.co.kr
