기업 넘어 국가경쟁 치열… 안전성보다 진흥 전환
개정안 발의만 7개… '고영향 AI' 개념 명시 필요
"포괄적 규제보다 딥페이크 등 특정영역 집중해야"
3년 유예안·과태료 부과 계도기간 운영 등 검토
개정안 발의만 7개… '고영향 AI' 개념 명시 필요
"포괄적 규제보다 딥페이크 등 특정영역 집중해야"
3년 유예안·과태료 부과 계도기간 운영 등 검토
![[질문에 답하다] 시행 전부터 개정 논의 `AI기본법`, 이대로 괜찮나](http://contents.dt.co.kr/images/202506/2025062002101931081001[1].jpg "[질문에 답하다] 시행 전부터 개정 논의 `AI기본법`, 이대로 괜찮나")
생성형 인공지능(AI)이 세계적 화두로 떠오른 이래 주요 기업들뿐 아니라 국가 간 경쟁도 치열하게 전개되고 있다. 올해 미국에서 트럼프 2기 행정부가 출범한 이후 세계적으로 강화되고 있는 자국우선주와 보호무역 기조가 AI 분야 군비 경쟁을 더욱 부채질하는 양상이다. 지난 2월 프랑스 파리에서 열린 세 번째 AI 정상회의에서도 AI 안전성 논의는 벌써 뒷전으로 밀리는 모습을 보였다.
이 가운데 국내에서는 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(이하 AI기본법)이 내년 1월 22일 시행을 앞두고 있다. 2020년 7월 첫 법안 발의로부터 여러 우여곡절을 거쳐 4년여 만인 지난해 12월 국회 본회의를 통과, 현재 하위법령 제정 작업이 진행되고 있다. 글로벌 AI 경쟁 대응 차원에서 입법을 서둘렀으나 여전히 규제 등 관련해 모호한 부분이 있다는 지적이 이어진다. 시행하기도 전에 벌써 국회에서 개정안이 7개 발의된 상태다.
◇세계적 흐름 역행할까 우려
스탠퍼드 인간중심AI연구소(HAI)가 지난 4월 공개한 'AI 인덱스 2025' 보고서에 따르면, 조사 대상 114개국 가운데 2016년부터 2024년까지 최소 한 가지 이상의 AI 관련 법률을 제정한 곳은 39개국으로 나타났다. 이들 국가는 이 기간 동안 총 204개의 AI 관련 법률을 통과시켰다. 2016년 단 1개에서 2023년 30개, 지난해 40개로 점점 늘어났다.
이렇듯 생성형AI 확산과 함께 사회에 미치는 영향이 커지면서 AI 관련 법률 입안도 세계적으로 증가하는 추세다. 하지만 전문가들은 이들 대부분이 포괄적인 규제보다는 딥페이크 등 특정 영역에 집중한다는 점을 지목한다. 세계에서 가장 먼저 제정된 포괄적인 AI 규제인 유럽연합(EU) AI법 또한 최근 EU집행위(EC)가 규제 최소화를 선언함에 따라 수정될 가능성이 제기된다. EU AI법의 단계적 시행에 따라 실질적 규제는 한국 AI기본법이 먼저 이뤄지기도 한다.
이런 AI 규제가 향후 한미 통상 협상 테이블에도 오르내릴 수 있다. 지난 3월 미국 무역대표부(USTR)가 국가별 무역장벽(NTE) 보고서를 내놓은 이후 정보기술혁신재단(ITIF)과 컴퓨터통신산업협회(CCIA) 등 미국 내 IT 관련 협단체들도 한국의 디지털 무역장벽 제거를 요구하는 성명을 낸 바 있다. 여기엔 정밀지도 반출 제한과 해외 클라우드 이용 규제뿐 아니라 AI기본법의 규제내용도 포함됐다. 미국의 속내까지 고려해 다방면에서 신중을 기할 때다.
◇국회입법조사처도 "보완 필요"
당초 AI기본법은 AI산업계의 정책 불확실성 해소 요구에 대응해 최소한의 틀을 마련하면서 진흥에 초점을 맞춰 추진됐다. 규제의 경우 각 영역별 법령 개정·신설을 추가로 이행하는 형태로 구상됐다. 하지만 여러 이해관계자가 엮이면서 규제 내용과 진흥 내용이 혼재됐고, 유례없는 고영향AI라는 새로운 개념이 중심에 자리했다. 최소한의 제도적 기반을 빠르게 마련하되 글로벌 흐름에 맞춰 유연하게 대응해나간다는 당초 취지에서 이미 벗어났다.
이에 국회입법조사처도 지난 3월 'AI 기본법 시행 전 보완을 위한 입법 과제' 보고서를 내면서 일부 조항은 우리 AI 현실에 비춰 다소 쟁점적인 측면이 있다고 지적했다. 보고서에 따르면 AI 기본법의 핵심 특징인 고영향AI의 개념이 모호해 AI기본법을 준수하거나 해석해야 하는 당사자 혼란이 우려된다. AI사업자를 개념적으로만 개발사업자와 이용사업자로 구분해놓고 실제 의무는 동일하게 부과해 규제 적절성·타당성 확보가 어렵다.
AI 컨트롤타워인 국가AI위원회의 심의·의결 대상에 관계부처의 정책·업무조정 등이 포함돼있지 않아 실질적인 조정자 역할을 수행하기 어렵다. AI 기술·산업 진흥을 위한 다양한 지원 사항이 규정돼있지만 국내 산업진흥 법률의 보편적인 조치와 차별성이 없어 우리 AI산업의 고유한 문제를 직접적으로 해결할 수 있을지 의문이다.
국회입법조사처는 이런 문제 해결을 위해 AI 거버넌스 정비, 고영향AI 구체화, 그래픽처리장치(GPU)·인재·데이터센터 확충, 제조업의 AI 도입 지원과 같은 보완 입법이 시급하다고 분석했다. AI기본법의 기본원칙과 체계에 따라 관련 입법을 정비해 한국형 AI 생태계의 법적 기반을 완성하는 후속 입법도 적극 추진될 필요성을 제기했다.
◇AI기본법, 개념부터 바로잡아야
이런 연유로 AI기본법 제정 당시부터 우려를 표해온 한국인공지능법학회는 지난 반년 동안 개정연구위원회를 운영하며 올바른 개정 방향을 논의해왔다. 그 결과를 최근 개최한 상반기 학술대회에서 발표했다. 전반적으로 정합성을 갖춰 정식으로 건의안을 내기 전에 법률 전문가들이 모여 연구해온 개별 사안 관련 내용을 참고 차원에서 공유한 것이다.
먼저 AI와 AI시스템에 대한 개념을 명확히 한다. 의인화 기반 접근방식을 취하는 현 조항의 문제점을 해결하고자 행동 중심 접근방식으로 내용을 수정함으로써 과잉 포섭 등에 따른 규제 합리성 저해를 방지할 수 있다. AI에이전트를 비롯해 향후 AI기술 발전을 지속 반영할 필요성도 있다.
고영향AI에 대해서는 권익 영향 AI와 안전 영향 AI로 이원화하거나, 관련 내용을 재배열함으로써 AI 자체가 아니라 사용 영향이 평가 대상임을 명시하는 안이 제시됐다. 모호하다는 지적이 많은 만큼 그 개념과 범위에 대해 보다 구체화하면서 규제 불확실성을 해소할 필요가 있다.
이를 위해선 AI 개발부터 유통 및 이용까지 각 주체를 구분하고 용례(유스케이스)에 집중해 핀셋형 규제로 실효성을 높이는 게 권장된다. 주무부처가 큰 그림을 제시하되 각 부처가 소관 법령 정비를 통해 집행하는 체제다. 이 과정에선 세계적으로 통용되는 고위험AI와의 정렬도 관건이다.
생성형AI의 경우 현재 법에선 용례나 영향 받는 자의 인지가능성, 오용의 실질적인 리스크를 묻지 않고 AI사업자에 일률적인 고지·표시의무를 부과한다. 정작 딥페이크 대부분은 최종이용자가 만드는 점, 워터마킹·탐지 등 특정 기술방식을 정할 경우 쉽게 우회되는 점, AI사업자들의 가치사슬 내 역할분담 등이 간과됐다.
따라서 비인성고지는 챗봇 등 대화형 서비스에 한정하고, 소비자·투자자 등을 위한 분야별 법령 정비로 레이블링 등 표시 수요에 대응하며, 개발자-유통자(플랫폼) 간 자율규제체제로 워터마킹과 탐지 등 기술조치를 취하는 대안이 제시됐다.
이밖에 AI스타트업 등 AI산업 육성 활성화를 위해 AI기본법에 AI규제샌드박스를 도입하는 방안도 논의됐다. 기존 규제샌드박스가 정보통신융합법과 산업융합촉진법 등 개벌 법령을 바탕으로 운영되고 있으므로 AI산업 진흥을 위한 범용적 정책 수단으로 활용하기엔 한계가 존재한다는 이유다. 고영향AI 등 AI기본법에서 정하는 기준에 따른 심의와 검증 등이 용이하다는 장점도 있다. 다만, 또 규제샌드박스를 신설할 실익이 작다는 지적도 존재한다.
◇규제만 유예도 방법
현재 국회에 발의된 AI기본법 일부개정안 중엔 AI기본법에서 규제만 3년을 유예하는 안(황정아의원안)도 올라와있다. 국내외 다양한 사정을 고려하면 우리 먼저 포괄적 규제를 서두를 필요성이 적다는 공감대가 형성되고 있기 때문이다. 이에 과학기술정보통신부도 최근 국정기획위원회에 제출한 업무보고에서 AI기본법 관련해 이를 쟁점으로 다뤘다.
한국인공지능법학회의 상반기 학술대회에서도 이 3년 유예안이 바람직하고 이후 상황에 따라 유예 연장 여부를 결정하자는 의견이 힘을 얻었다. 현 시점에서는 '인공지능 발전'이 '신뢰 기반 조성'보다 중요한 시기고 한국 AI산업의 경쟁력이 선진국과 비교하여 뒤쳐지고 있다는 점은 부인할 수 없는 사실이기 때문이다. 또한 미국은 AI 관련 행정명령 폐기 및 혁신 중심 정책을 추진하는 등 EU, 일본을 포함한 전 세계적 AI 관련 트렌드가 규제에서 진흥으로 전환되고 있기도 하다. 향후 AI산업에 대한 규제를 도입하더라도 일정기간의 골든타임 동안에는 그 시행을 유예하는 방향을 검토할 필요가 있다.
국정기획위 업무보고 내용에 따르면 과기정통부는 하위법령 제정은 진흥에 중심을 두고 이달까지 초안을 마련해 합리적이고 유연한 규율을 정립한다는 계획이다. 이후 국내 대중소기업, 해외 기업, 학계 및 시민단체 대상 릴레이 의견수렴을 진행할 예정이다. 특히 규제 가운데 과태로의 경우 필요시 법 시행 초기 혼란을 최소화하고 사실상 규제 유예와 유사한 효과가 가능하도록 과태료 부과 계도기간을 운영하는 것도 검토하고 있다.
최경진 한국인공지능법학회장(가천대 법학 교수)은 "AI기본법은 우리나라가 AI 3대강국(G3)으로 도약하기 위한 제도적 기반이자 마중물이 돼야 할 것"이라며 "가급적 문제 발생 소지를 줄이는 노력도 필요하지만 법률 집행 경험을 쌓아가는 것도 중요하다. 진흥을 중시하되 각 영역에서 행위와 용례를 중심으로 필요한 규제를 하면서 균형점을 찾아가야 할 것"이라 짚었다.
팽동현기자 dhp@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
