EU·美·中 등 규제 도입 속도
22대 국회 1호 법안으로 발의
국제 흐름따른 정책 마련돼야
22대 국회 1호 법안으로 발의
국제 흐름따른 정책 마련돼야
◇하루가 다르게 달라지는 AI 기술, 규제는 어떻게?AI 기술의 발전 속도는 놀라운 정도다. 특히 오픈AI가 지난달 내놓은 'GPT-4o(포오)' 모델은 텍스트·비전·오디오를 아우르며 사용자와 자연스럽게 실시간 상호작용하는 모습을 보여 세계를 놀라게 했다.
생성형AI의 급류 속에 부작용 우려도 커지면서 AI규제 논의도 빨라지고 있다. 유럽연합(EU)이 속도와 강도에서 일등이다. AI 위험도를 4단계로 나눠 규제하고 위반 시 매출의 7%까지 벌금을 매기는 'AI법'이 지난 3월 유럽의회를 통과, 세계 첫 AI규제법으로서 올 11월부터 단계적으로 시행된다. 미국도 바이든 행정부가 연방기관들에 AI 안전장치 마련 의무를 부과한 'AI 행정명령'을 지난해 10월 발표한 데 이어 '알고리즘 책임법'도 추진한다. 중국은 생성형AI 서비스 관련 규제를 지난해 8월 시행했고, 일본도 연내 AI법안을 도입할 계획이다. 이 가운데 전문가들은 육성과 규제 간의 절묘한 균형을 주문한다.
조성배 연세대 AI연구원장(AI전략최고위협의회 R&D분과장)은 "글로벌 AI 경쟁 속에 안전장치 마련이 필요하다"면서 "다만 과도하게 선제적으로 규제한다면 우리 AI업계가 선발주자들을 추격하는 데 어려움을 겪을 수 있다"고 짚었다.
◇AI법 없는 AI 거버넌스한국은 지난달 'AI 서울 정상회의'를 개최해 안전·혁신·포용을 3대 원칙으로 제시하며 글로벌 AI 거버넌스 선도에 나서고 있다. 하지만 정작 AI법안은 21대 국회에서 장기 표류 끝에 상임위 문턱도 넘지 못했다. 'AI기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)'은 우선허용·사후규제 원칙에 대해 시민단체 등이 반발하며 제동이 걸렸다. 과학기술정보통신부를 중심으로 이 원칙을 삭제한 안도 추진했으나 여야 정쟁에 밀려 결국 폐기됐다.
22대 국회에선 이미 움직임이 시작됐다. 안철수 국민의힘 의원이 22대 국회 1호 법안으로 'AI기본법' 제정안을 발의했다. 고위험 AI로부터 이용자를 보호하기 위한 정부 역할과 사업자 책무 및 이용자 권리 등을 규정하고, 전문인력 양성·확보 방안을 담았다. '국가AI위원회'를 대통령 소속으로 하고 과기정통부가 'AI안전연구소'를 세우는 내용도 포함됐다. AI 생성물은 그 사실을 표기토록 하는 한편, 우선허용·사후규제 원칙은 포함하지 않았다. AI 산업 발전과 이용자 보호 양 측면에서 필요한 최소한의 내용을 담은 점은 기존과 비슷하면서 AI거버넌스에 좀 더 무게를 뒀다. 야당도 이달 중 법안을 발의할 예정으로, AI기본법 논의가 다시 본격화될 전망이다.
과기정통부 관계자는 "AI기본법이 있어야 이를 근거로 기본계획을 수립하고 예산을 확보해 체계적인 지원을 할 수 있다"며 "AI기본법은 진흥과 규제 양 측면에서 모두 필요하다. AI 기술 발전과 글로벌 논의가 이어지는 만큼 의견수렴을 거쳐 애자일하게 보완·발전시켜 나가고자 한다"고 말했다.
◇AI의 데이터·저작권·투명성 '화두'
국회입법조사처는 최근 발간한 '제22대 국회 입법·정책 가이드북'에서 다양한 AI 관련 입법·정책 방향을 제시했다. 산업 진흥을 위해 데이터 이용·거래 활성화와 AI 활용 법률서비스 개발 지원, AI규제 관련 통상이슈 대응이 과제로 꼽힌다. AI 도입 컨설팅 지원, 컴퓨팅자원 구축, 국내 AI 제품·서비스 해외 진출 지원, 외국 인력·자본 국내 유입 인센티브 조성도 필요하다. 다부처·다분야에 산재된 AI 정책을 총괄하는 거버넌스 마련도 핵심 숙제다. 데이터 거래·유통 체계 강화 등 실질적인 학습데이터 공급방안 확보도 시급하다.
AI 공정성과 투명성을 확보하고, AI 위험으로부터 이용자를 보호하면서 생성형AI와 관련한 콘텐츠 규제를 마련하는 것도 과제다. 개인영상정보 보호 강화와 로보콜 대응, 고위험AI에 대한 규제 체계 마련도 당장 급하다. 결국 대부분의 내용이 AI기본법 논의로 귀결된다. AI 창작물에 대한 저작물성 인정 여부 논의도 필요하다.
AI전략최고위협의회 법제도분과장인 고환경 변호사(법무법인 광장)는 "AI기본법이 마련돼야 규제·투자 관련 불확실성이 해소될 것"이라며 "우리나라는 두 마리 토끼를 잡아야 하는 상황이다. 글로벌 AI 경쟁에 뒤처지지 않도록 지원하면서도 그로 인한 위험을 실질적으로 통제할 수 있어야 한다"고 말했다. 그런 만큼 기술 자체보다는 적용사례에 따른 규제 접근이 필요하다는 게 고 변호사의 의견이다.
◇시민단체 "규제 강화" vs 전문가 "균형 필요"
참여연대·진보네트워크센터·민변 등 시민단체들은 AI에 대한 강한 규제를 주장한다. EU AI법 등 글로벌 규제 흐름에 맞춰 위험에 상응한 처벌 조항도 필요하다는 입장이다. AI업계와 학계에선 규제 강화가 갈 길 바쁜 초기 산업의 발목을 잡을 수 있다고 우려한다. 미국 빅테크들이 데이터·컴퓨팅자원 등에서 월등한데 AI안전성 규제를 강화하면 '사다리 걷어차기'가 될 수 있다.
하정우 네이버클라우드 AI이노베이션센터장은 "EU AI법에서 왜 10의 25승 플롭스 이상으로 학습된 모델을 핵심 규제 대상으로 삼았는지에 대한 고민도 필요하다"고 했다. 소형언어모델(SLM)에 주력하는 미스트랄AI 등 역내 AI기업을 키우려는 의도가 들어있다는 해석이다.
AI산업 선두주자 추격과 AI 이용자 보호를 모두 꾀해야 하는 한국 상황은 미국이나 EU와 다르다. 여기에다 앞으로 기술개발과 국제표준 경쟁이 뜨거워지면서 각국의 상이한 AI규제로 인해 통상마찰이 발생할 가능성도 있다. 이런 상황에서 수출로 먹고사는 한국이 글로벌 흐름과 동떨어진 질서를 만드는 것은 비현실적이다.
최경진 한국인공지능법학회장(가천대 법학 교수)은 "글로벌 논의보다 앞서서 조치를 취하는 것은 지양해야겠지만, 안전성 평가 등 이미 공감대가 형성된 사안에 대해선 합리적 범위 내에서 규제든 진흥이든 실질적인 내용을 담을 필요가 있다"며 "처벌규정 포함 여부 또한 AI 법률 구체화 수준에 따라 달라져야 할 것이다. AI위원회에 구체적 권한이 주어지고 AI샌드박스 제도도 고려된다면 그에 상응하는 강도의 규제가 따라야 할 것"이라고 짚었다.
팽동현기자 dhp@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
