이 보고서는 범용 AI 기술의 잠재적 위험을 체계적으로 식별하고 분석해 이를 효과적으로 관리할 수 있는 국제표준 기반의 위험 관리 프레임워크를 제시한다. 이번 연구는 급격히 발전하는 범용 AI 기술이 사회적, 윤리적 영향을 미칠 가능성을 고려해 범용 AI의 안전하고 지속 가능한 발전을 지원하기 위한 기초적인 방향성을 제시하기 위해 추진됐다.
보고서는 기존 연구에서 도출된 위험 요소를 분석하고, 이를 기반으로 범용 AI에 특화된 8가지 핵심 위험 요소를 정의했다. 이를 통해 범용 AI 기술과 관련된 이해관계자들이 위험을 파악하고, 체계적으로 대비할 수 있도록 돕는다.
또한 국제표준을 참고해 범용 AI 기술의 특수성을 반영한 위험 관리 프레임워크를 설계했다. 관련 조직에서 활용 가능한 가이드와 함께 사례 분석을 통해 프레임워크의 효과를 검증했다.
이 보고서의 AI 위험관리 프레임워크는 국내의 AI 사업자들이 안전하고 신뢰할 수 있는 AI 서비스를 제공하는데 실질적인 도움을 줄 수 있도록 국내 산·학·연 전문가 20명으로 구성된 연구자문위원회의 검토를 거쳐 완성도를 높였다. 이와 함께 AI 분야 세계적인 석학인 요슈아 벤지오 캐나다 몬트리올대 교수와 스튜어트 러셀 UC버클리대 교수의 의견수렴을 통해 국제적 공신력도 확보했다.
손승현 TTA 회장은 "최근 중국의 딥시크 공개 이후 개인정보 보호, 저작권, 국가 안보 등 다양한 측면에서의 안전성 이슈가 부각되며 AI 위험에 대한 인식이 높아지고 있다"며 "이번 연구 보고서가 AI 모델 및 서비스 개발 기업들이 인공지능을 안전하게 관리하는 데 중요한 참고자료로 활용되기를 기대한다"고 말했다. 김나인기자 silkni@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
