이번 행사는 지난 5월 'AI서울정상회의'에서 발표된 '서울선언'의 핵심의제인 AI안전연구소 설립과 안전한 AI에 대한 글로벌 협력을 이행하기 위한 후속조치로 개최됐다. 우리나라도 이달 말 AI안전연구소 출범을 앞두고 있으며, 최근 임명된 김명주 AI안전연구소장을 포함한 한국 대표단을 이번 행사에 파견했다.
행사에는 주최국 미국을 포함해 한국, 영국, 일본, 싱가포르, 캐나다, 프랑스, EU, 케냐, 호주 등 10개국의 AI안전연구소나 그에 상응하는 연구기관들 및 AI안전 분야 기술전문가 등이 참석했다. 이 자리에서 '국제 AI안전연구소 네트워크' 출범이 선언됐고, 네트워크 미션 및 운영거버넌스 논의와 AI안전 연구·테스팅·지침에 대한 기술적 논의가 진행됐다.
'국제 AI안전연구소 네트워크'는 전 세계 기술전문성 결집을 통해 AI안전 관련 위험과 그 완화에 대한 공통의 과학적 이해를 창출하고, 국제적인 연구를 통해 상호운용 가능한 원칙과 모범사례의 적용을 지원하는 것을 목표로 한다. 연구, 테스팅, 지침, 포용 분야에 대한 글로벌 협력을 중점 추진할 계획이다.
이틀간 이어진 기술세션에서는 합성콘텐츠 위험 저감, AI기반모델 테스트, 고급 AI시스템 위험 평가 등에 대한 논의가 진행됐다. 한국대표단은 '딥페이크 탐지 및 생성억제 기술 연구(우사이먼성일 성균관대 교수)', 'AI위험평가 및 검증체계(곽준호 한국정보통신기술협회 AI신뢰성정책팀장)' 등 AI안전 관련 국내 주요 연구 성과를 발표했다. 또 네트워크 거버넌스에서 주요역할을 수행하고자 하는 우리정부의 적극적인 의지를 공유했다.
송상훈 과기정통부 정보통신정책실장은 "'서울선언'의 핵심규범·가치가 주요국이 적극적으로 지지·참여하는 국제 AI안전연구소 네트워크 출범으로 신속하게 구체화됐다는 점에서 뜻깊다"며 "이달 AI안전연구소를 개소해 AI안전연구를 본격 수행해나가고 '국제 AI안전연구소 네트워크'에도 적극 참여해 글로벌 차원의 AI안전 기술·규범 발전에 주도적인 역할을 하겠다"고 말했다.팽동현기자 dhp@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
