인공지능(AI) 업계가 기다려온 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안(AI기본법)' 통과가 코앞으로 다가왔다. 하지만 그 내용에 대해 모두가 납득하고 만족하는 분위기는 아니다. 국회 정쟁 등으로 그간 표류해온 기간에 비해 실제 검토는 충분히 이뤄지지 않았다는 지적도 제기된다. 이용자와 산업 및 기술발전 등을 고려한 개선·보완이 이어질 필요가 있다.
지난달 26일 19개 법안 병합심사로 국회 과학기술정보방송통신위원회(과방위)를 통과한 AI기본법은 이달 국회 법제사법위원회(법사위)와 본회의를 거칠 전망이다. 상임위 문턱은 지난 21대 국회에서 발의된 지 2년여 만에 넘었지만, 여야가 합의한 만큼 앞으로 일정은 순조롭게 진행될 것으로 예상된다.
법안 내용에 대해서는 아쉬움이 있다. 특히 고위험AI를 대체하는 '고영향AI'에 대해 개념과 정의가 불확실하다고 법률 전문가들도 문제를 제기한다. 주된 규제 대상인 만큼 규제 예측 가능성을 높일 수 있도록 고영향AI의 범위나 규제 수준·내용 등이 보다 명확해질 필요가 있다는 견해다. 법안에 따르면 고영향AI에 대한 이용자 고지 의무 및 정부 시정명령 위반 시 최대 3000만원까지 과태료를 부과하며, 그 판단은 과기정통부 장관이 맡는다.
장차 중복규제로 이어질 우려도 제기된다. 고영향AI 관련 수평적·포괄적 규제가 각 부처의 기존 규제에 더해지면서 이중규제가 되거나 부처·기관 간 불협화음을 유발할 수 있다는 것이다. 향후 AI 이용자 보호 관련 규제도 추가될 경우 삼중규제로 번질 공산도 있다. 국가 AI 거버넌스 차원에서 사전에 이를 위한 교통정리가 이뤄질 필요가 있다.
임용 서울대 AI 정책 이니셔티브(SAPI) 디렉터(법학전문대학원 부교수)는 "기존 법·제도상 규제들과 이에 따른 각 부처·기관 역할 등을 보다 세밀하게 살필 필요가 있다. 횡적인 규제 과정에서 중첩과 중복이 문제될 수 있다"며 "앞으로도 AI 관련 규정은 기존 법·제도들이 메우지 못했던 공백들을 채워나가는 데 중점을 둬야 할 것"이라 밝혔다.
이미지=픽사베이
참여연대 등 시민단체들도 "겨우 한두 번의 심사로 제대로 된 제정법을 마련하는 절차를 거쳤다고 말할 수 있을지 의문"이란 입장이다. 이들은 반대로, 고위험AI 규제에 대해 유럽연합(EU) AI법보다 미흡하다는 점에서 시민 안전·인권 보호보다 AI산업 육성에 치우쳤다고 목소리를 높인다. 범용 AI모델 학습데이터 공개, 위반 사업자에 대한 실효성 있는 처벌, 피해자 구제 절차 등의 내용을 포함할 것을 주장한다.
다만 비교대상으로 거론되는 EU AI법의 경우 최근 전문가들이 실질적 이행 가능성에 의문을 제기하는 추세다. 너무 어렵고 복잡하다 보니 시장 실패를 넘어 규제 실패 가능성이 언급되기도 한다. EU집행위원회(EC)와 함께 초안을 설계한 가브리엘레 마찌니 MIT 박사는 최근 방한해 "당초엔 일종의 제조물책임법 차원에서 위험 기반 접근을 통해 AI 적용사례별 안전장치를 추가로 마련하는 데 중점을 뒀다. 하지만 유럽의회 등을 거치며 각계 이해관계가 맞물리며 모호한 규제가 돼버렸다"고 밝혔다.
AI업계 일각에선 최초 AI기본법 발의 당시 포함됐던 '선 허용, 후 규제' 원칙을 주장한다. 하지만 AI기본법 제정이 AI진흥법으로 출발했다고 해도 AI규제법 성격도 함께 갖게 된 이상, 균형점을 찾아가는 국내 실정에 적합하다고 할 수는 없을 것으로 보인다.
EU AI법 또한 가이드 등을 통한 개선·보완이 한창이다. 최경진 한국인공지능법학회장(가천대 법학 교수)은 "우리 AI기본법은 분명 통과될 필요가 있다. 다만 고영향AI 관련 규정과 그에 따른 과태료 처분 대상 등은 추후 보다 명확화·합리화돼야 할 것"이라고 짚었다.
AI업계는 장차 제정될 세부법령 등에 촉각을 세우는 분위기다. SW업계 한 관계자는 "기다려온 AI기본법인 만큼 조속한 통과를 바란다"면서도 "악마는 디테일에 있다는 말이 있듯, 향후 하위법령 등에서 충분한 개선·보완이 계속 이뤄져야 할 것"이라고 말했다.팽동현기자 dhp@dt.co.kr
![[팽동현의 테크픽] AI기본법, 국회 통과는 시작일 뿐](//contents.dt.co.kr/images/202412/2024120202109931081004[1].jpg "[팽동현의 테크픽] AI기본법, 국회 통과는 시작일 뿐")
![[팽동현의 테크픽] AI기본법, 국회 통과는 시작일 뿐](http://contents.dt.co.kr/images/202412/2024120202109931081004[1].jpg "[팽동현의 테크픽] AI기본법, 국회 통과는 시작일 뿐")
