AI안전연구 전담조직 탄생
산학연 24곳 협력 컨소시엄
미·영국 등에 이어 5번째로 출범
산학연 24곳 협력 컨소시엄
미·영국 등에 이어 5번째로 출범
◇전세계 AI 안전 열풍…AI 범죄 차단한다= 27일 과학기술정보통신부는 경기 성남시 판교글로벌R&D센터에서 'AI 안전연구소' 개소식을 개최하고, AI 기술의 안전성과 신뢰성을 확보하기 위한 연구와 협력을 본격화한다고 밝혔다.
최근 AI 기술의 급격한 발전과 함께 딥페이크 영상 생성, 허위 정보 유포, 사이버 공격 등 AI를 악용한 사례가 늘어나면서, 안전성 확보가 점점 더 중요한 과제로 떠오르고 있다. 특히 챗봇 기술의 보편화 이후, 허위 정보를 생성하거나 자동화된 사이버 공격 도구로 악용되는 사례가 증가하면서 기존 보안 체계의 취약성을 드러내고 있다. 이런 기술 악용은 개인의 프라이버시 침해뿐 아니라 기업 및 국가의 보안 시스템에 심각한 위험으로 작용하고 있는 것이다.
아울러 사이버 위협뿐만 아니라 AI 윤리 문제도 중요한 논의 대상으로 부각되고 있다. AI 알고리즘의 편향성과 의사결정 과정의 불투명성은 사회적 불평등을 심화시킬 수 있다는 우려를 낳고 있고 AI가 통제력을 벗어나 의도치 않은 결과를 초래할 위험성도 지속적으로 제기되고 있다. AI 기술의 빠른 발전과 함께 딥페이크 영상 생성, 허위 정보 유포, 사이버 공격 등 다양한 문제가 대두되며 AI의 안전성 확보가 점점 더 중요한 과제로 떠오르고 있는 것이다.
이에 따라 주요국은 AI 안전성을 강화하기 위한 규제를 도입하고, 국제 협력을 강화하는 추세다. AI 서비스는 전 세계 이용자를 대상으로 하는 만큼 규제도 전 세계적으로 통용될 가능성이 높다. 예를 들어, 영국은 정부 주도로 AI 안전연구소를 설립해 자국 AI 기업의 선제적 규제 대응을 지원하고 있으며, 미국, 일본 등 다수의 국가도 AI 안전 연구소를 통해 글로벌 협력 체계를 구축하고 있다.
◇국내도 AI 안전 대비에 나선다…한국 AI 안전연구소 출범= AI안전연구소는 지난 5월 'AI서울정상회의'의 후속 조치로 출범했다. 당시 10개국 정상은 안전이 책임 있는 AI 혁신을 위한 핵심 요소임을 확인하고, AI안전연구소 설립과 안전한 AI에 대한 글로벌 협력을 강조했다. 당시 윤석열 대통령도 "대한민국 AI안전연구소 설립을 추진해 글로벌 AI 안전성 강화를 위한 네트워크에 동참할 것"이라고 밝혔다. 이에 과기정통부는 그간 연구소 조직·예산·인력·기능에 대한 사전 준비를 거쳐 AI안전연구소를 출범하게 됐다.
AI안전연구소는 AI로 인한 다양한 위험에 대응하기 위해 설립된 전담 연구 조직이다.영국, 일본, 미국, 싱가포르에 이어 5번째로 출범한 AI안전연구소는 AI의 기술적 한계, 인간에 의한 AI 기술 오용, AI 통제력 상실 등 인공지능이 초래할 수 있는 다양한 위험에 체계적이고 전문적으로 대응하는 것을 목표로 한다. 산·학·연 기관이 AI 안전 분야 연구 협력과 정보 교류를 하는 허브이자, 현재 미국·일본 등 10개국이 참여 중인 '국제 AI 안전연구소 네트워크' 일원으로 활동하게 된다.
연구소는 AI 기술 및 인력 육성과 더불어 과학적 데이터를 기반으로 한 정책 개발 및 선진화를 목표로 하고 있다. 'AI안전연구소' 초대 소장으로 임명된 김명주 소장은 "AI 활용으로 발생할 수 있는 제반 위험 평가와 이를 예방·극소화하기 위한 정책·기술을 개발·보급하고, 국내·외 연대를 강화해 나갈 것"이라며 "연구소는 규제기관의 성격이 아니라, 국내 AI기업들이 글로벌 경쟁력을 확보하는 데 장애가 되는 위험 요소들을 최소화하도록 지원하는 협력기관으로 역할을 할 것"이라고 강조했다.
정부뿐만 아니라 삼성전자, LG, 네이버, 카카오, KT, SK텔레콤 등 국내 대표 ICT 기업들도 '대한민국 AI안전컨소시엄'으로 참여해, AI 안전성을 높이기 위한 협력 체계를 구축할 예정이다.
엘리자베스 켈리 미국 AI안전연구소장은 "한국이 AI 안전 증진을 위해 보여준 글로벌 리더십과 지원에 깊이 감사한다"며 "한미 AI 안전연구소가 전 세계 동료들과 함께 AI 위험을 줄이고 혜택을 극대화하며 혁신을 촉진하기 위해 공통된 과학적 기준을 구축해 나가자"고 했다. 올리버 일롯 영국 AI안전연구소장, 아키코 무라카미 일본 AI안전연구소장도 국경을 넘어선 협력 확대의 필요성을 언급했다.
이외에도 개소식에는 류광준 과기부 과기혁신본부장, 염재호 국가AI위원회 부위원장, 이 경우 대통령실 AI디지털비서관 등 정부 주요 인사와 오승필 KT CTO(최고기술책임자), 오혜연 카이스트 AI연구원장, 이은주 서울대 AI신뢰성연구센터장, 방승찬 ETRI(한국전자통신연구원) 원장 등 AI분야 산학연 핵심 관계자 40여명이 참석했다.
유상임 과기부 장관은 "AI안전연구소를 중심으로 산학연 연구역량을 결집해 AI안전의 기술·정책적 역량을 조속히 확보해 대한민국 AI산업 혁신을 촉진할 튼튼한 안전 기반을 구축할 것"이라며 "글로벌 AI안전 연대의 주도적 역할을 수행해 아태 지역을 대표하는 AI안전 연구허브로 발전할 수 있도록 적극 지원할 것"이라고 했다.
유진아기자 gnyu4@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
