정보기술(IT) 1번지 실리콘밸리가 위치한 미국 캘리포니아주가 인공지능(AI) 규제로 시끌시끌하다. AI기본법 제정을 추진 중인 우리나라를 포함해 세계 AI업계가 이곳을 주목하고 있다.
캘리포니아주정부는 지난 17일(현지시간) 개빈 뉴섬 주지사가 선거 관련 딥페이크를 비롯한 기만적인 디지털 콘텐츠 생성·변조 행위에 대응하고자 온라인 플랫폼을 규제하는 3개 법안에 서명했다고 밝혔다. 그는 이를 포함해 5개의 AI 관련 법안에 서명했지만, 가장 논란이 되고 있는 '프론티어 AI 모델을 위한 안전과 보안 혁신 법안(SB1047)'에는 서명하지 않았다.
선거 딥페이크 관련 법안 3개 중 핵심은 소셜미디어(SNS) 등 온라인 플랫폼을 규제하는 '딥페이크 기만행위로부터 민주주의 수호법(AB2655)'이다. AI 등 디지털 기술로 변조된 선거 콘텐츠에 대해 72시간 내 제거하거나 그 사실을 표기하고, 해당 콘텐츠를 신고하기 위한 창구도 갖출 것을 요구한다. 함께 서명된 'AB2839'는 기존의 선거 딥페이크 유포 금지 기간을 확대하고, 'AB2355'는 선거광고에 AI 이용 사실을 공개하게 하는 등 상호 보완되는 형태다.
뉴섬 주지사는 "오늘날 같이 혼탁한 정치 환경에서는 허위정보를 통해 대중의 신뢰를 훼손하는 데 AI가 활용되지 않도록 하는 게 중요하다"고 밝혔다. AB2655를 발의한 마크 버먼 캘리포니아주 하원의원은 "AI로 생성된 딥페이크는 우리 선거와 민주주의에 명백하고 현존하는 위험을 초래한다. AB2655는 이런 위협에 대한 미국 최초의 해결책"이라 말했다.
이 법안들에 대한 서명이 이뤄지자 X(옛 트위터)를 소유한 일론 머스크 테슬라 최고경영자(CEO)가 미국 수정헌법 제1조 위반이라며 반발하는 등 표현의 자유 옹호론자들로부터 비판이 이어지고 있다. 하지만 그동안 정치권과 산업계에 걸쳐 필요한 규제라는 공감대가 형성됐으므로 반발의 목소리가 크진 않은 것으로 보인다.
정작 미국 AI업계를 긴장시키고 있는 'SB1047'에 대한 결정은 유보된 상태다. 미국 민주당 소속 스콧 위너 캘리포니아주 상원의원이 발의한 이 법안은 지난달 말 주의회를 통과해 뉴섬 주지사의 책상에 놓인 30여개의 AI 관련 법안 중 하나가 됐다.
이 법안은 생성형AI를 위한 대형언어모델(LLM) 등 고성능·고위험 AI모델을 직접 겨냥해 규제하는 게 특징이다. 클라우드 시장가 기준 1억달러 이상 개발비가 들거나, 10의 26승 플롭스(FLOPS) 이상으로 학습된 모델이 주요 규제 대상이다. 중대한 위험을 방지하기 위해 개발사에 안전성 테스트를 의무화하고, 모델이 잘못 작동할 경우 비상정지 가능한 안전장치(킬스위치) 마련을 요구한다. 내부고발자 보호 등을 위해 제3자 감사의 안전관행 평가도 받게 한다.
'SB1047'은 IT업계의 거센 반발을 사고 있다. 앞서 구글과 메타가 각각 반대 입장을 냈고 IBM과 인텔 등이 속한 AI얼라이언스, 스타트업 액셀러레이터 와이콤비네이터, 벤처캐피털 앤그리슨호로위츠 등도 가세했다. 의회 통과 직전엔 오픈AI도 침묵을 깨고 "세계적 수준의 엔지니어와 기업가들이 다른 곳으로 떠나게 할 것"이라며 반대 대열에 합류한 바 있다. 주요 AI기업 대부분이 반대하는 셈이다.
다만 찬성하는 목소리가 없는 것은 아니다. 오픈AI의 맞수인 앤스로픽은 부분적으로 찬성했고, AI스타트업 xAI를 운영 중인 일론 머스크의 경우 "잠재적 위험이 되는 모든 제품과 기술을 규제하는 것과 마찬가지"라며 이에 대해선 찬성 입장을 내기도 했다. 'AI 4대 석학'들도 규제론자인 제프리 힌튼 토론토대 교수와 요슈아 벤지오 몬트리올대 교수는 지지를, 진흥론자인 얀 르쿤 뉴욕대 교수와 앤드류 응 스탠퍼드대 교수는 우려를 각각 표하는 등 의견이 갈린다.
뉴섬 주지사는 이달 말까지 법안에 서명하거나 거부권을 행사할 수 있다. 기한이 얼마 남지 않은 가운데 이 법안까지 서명할 가능성은 낮을 것이란 관측이 점차 제기되고 있다. 블룸버그통신에 따르면 최근 뉴섬 주지사는 AI 개발을 냉각시킬 수 있다며 처음으로 법안에 대한 견해를 냈다. 세일즈포스의 연례 컨퍼런스에서 그는 입증 가능한 위험과 가설적 위험을 구분할 필요성을 거론하며 "우리는 이 분야를 지배하고 있고 이를 잃고 싶지 않다"고 언급했다.
미국 대선을 앞둔 상황에서 뉴섬 주지사가 현지 산업계로부터 적잖은 반발을 살 법안에 서명하기엔 부담이 될 수 있다. 이를 발의한 미국 민주당 내에서도 거물인 낸시 펠로시 전 하원의장을 비롯해 캘리포니아주에 기반을 둔 연방의원들 위주로 반대 목소리가 이어져왔기도 하다.
'SB1047'의 향방은 국내 AI기본법 제정 관련해서도 크든 작든 영향을 끼칠 것으로 보인다. 그러나 앞서 제정된 유럽연합(EU) AI법도 글로벌 경쟁 상황과 법령 자체의 복잡성 등이 맞물려 '브뤼셀 효과'가 제한적일 것으로 전망되는 만큼, 글로벌 동향을 주시하며 보조를 맞추되 우리의 여건과 목적에 초점을 맞춰야 한다는 목소리가 힘을 얻는다.
최경진 한국인공지능법학회장(가천대 교수)은 "미국의 법안은 대상을 구체적으로 특정해 규제하는 경향이 있다. SB1047의 서명 가능성은 낮아 보이고, 이에 대해 국내에서 참고하더라도 침소봉대하면 안 된다"며 "산업 진흥과 이용자 보호를 모두 챙기려면 AI 규제에 대해 실질적 위험도와 사례 등에 근거해 입체적·유기적으로 차분화된 형태로 접근해야 할 것"이라고 설명했다.
한편 선거 딥페이크 방지를 위한 3개 법안과 함께 서명된 2개 법안은 AI로부터 배우와 공연자 및 그 권리 상속인들을 보호하는 내용이다. 위영화 제작사 등이 배우의 동의 없이 AI로 영상·음성 등 복제물을 만들 수 없게 하고(AB2602), 배우 등이 사망했을 경우 그 상속인으로부터 동의를 얻도록 했다(AB1836). 지난해 할리우드 파업의 결과물에 해당된다.팽동현기자 dhp@dt.co.kr
<캘리포니아주 AI 규제 관련 진행 상황>
캘리포니아주정부는 지난 17일(현지시간) 개빈 뉴섬 주지사가 선거 관련 딥페이크를 비롯한 기만적인 디지털 콘텐츠 생성·변조 행위에 대응하고자 온라인 플랫폼을 규제하는 3개 법안에 서명했다고 밝혔다. 그는 이를 포함해 5개의 AI 관련 법안에 서명했지만, 가장 논란이 되고 있는 '프론티어 AI 모델을 위한 안전과 보안 혁신 법안(SB1047)'에는 서명하지 않았다.
선거 딥페이크 관련 법안 3개 중 핵심은 소셜미디어(SNS) 등 온라인 플랫폼을 규제하는 '딥페이크 기만행위로부터 민주주의 수호법(AB2655)'이다. AI 등 디지털 기술로 변조된 선거 콘텐츠에 대해 72시간 내 제거하거나 그 사실을 표기하고, 해당 콘텐츠를 신고하기 위한 창구도 갖출 것을 요구한다. 함께 서명된 'AB2839'는 기존의 선거 딥페이크 유포 금지 기간을 확대하고, 'AB2355'는 선거광고에 AI 이용 사실을 공개하게 하는 등 상호 보완되는 형태다.
뉴섬 주지사는 "오늘날 같이 혼탁한 정치 환경에서는 허위정보를 통해 대중의 신뢰를 훼손하는 데 AI가 활용되지 않도록 하는 게 중요하다"고 밝혔다. AB2655를 발의한 마크 버먼 캘리포니아주 하원의원은 "AI로 생성된 딥페이크는 우리 선거와 민주주의에 명백하고 현존하는 위험을 초래한다. AB2655는 이런 위협에 대한 미국 최초의 해결책"이라 말했다.
이 법안들에 대한 서명이 이뤄지자 X(옛 트위터)를 소유한 일론 머스크 테슬라 최고경영자(CEO)가 미국 수정헌법 제1조 위반이라며 반발하는 등 표현의 자유 옹호론자들로부터 비판이 이어지고 있다. 하지만 그동안 정치권과 산업계에 걸쳐 필요한 규제라는 공감대가 형성됐으므로 반발의 목소리가 크진 않은 것으로 보인다.
정작 미국 AI업계를 긴장시키고 있는 'SB1047'에 대한 결정은 유보된 상태다. 미국 민주당 소속 스콧 위너 캘리포니아주 상원의원이 발의한 이 법안은 지난달 말 주의회를 통과해 뉴섬 주지사의 책상에 놓인 30여개의 AI 관련 법안 중 하나가 됐다.
이 법안은 생성형AI를 위한 대형언어모델(LLM) 등 고성능·고위험 AI모델을 직접 겨냥해 규제하는 게 특징이다. 클라우드 시장가 기준 1억달러 이상 개발비가 들거나, 10의 26승 플롭스(FLOPS) 이상으로 학습된 모델이 주요 규제 대상이다. 중대한 위험을 방지하기 위해 개발사에 안전성 테스트를 의무화하고, 모델이 잘못 작동할 경우 비상정지 가능한 안전장치(킬스위치) 마련을 요구한다. 내부고발자 보호 등을 위해 제3자 감사의 안전관행 평가도 받게 한다.
'SB1047'은 IT업계의 거센 반발을 사고 있다. 앞서 구글과 메타가 각각 반대 입장을 냈고 IBM과 인텔 등이 속한 AI얼라이언스, 스타트업 액셀러레이터 와이콤비네이터, 벤처캐피털 앤그리슨호로위츠 등도 가세했다. 의회 통과 직전엔 오픈AI도 침묵을 깨고 "세계적 수준의 엔지니어와 기업가들이 다른 곳으로 떠나게 할 것"이라며 반대 대열에 합류한 바 있다. 주요 AI기업 대부분이 반대하는 셈이다.
다만 찬성하는 목소리가 없는 것은 아니다. 오픈AI의 맞수인 앤스로픽은 부분적으로 찬성했고, AI스타트업 xAI를 운영 중인 일론 머스크의 경우 "잠재적 위험이 되는 모든 제품과 기술을 규제하는 것과 마찬가지"라며 이에 대해선 찬성 입장을 내기도 했다. 'AI 4대 석학'들도 규제론자인 제프리 힌튼 토론토대 교수와 요슈아 벤지오 몬트리올대 교수는 지지를, 진흥론자인 얀 르쿤 뉴욕대 교수와 앤드류 응 스탠퍼드대 교수는 우려를 각각 표하는 등 의견이 갈린다.
뉴섬 주지사는 이달 말까지 법안에 서명하거나 거부권을 행사할 수 있다. 기한이 얼마 남지 않은 가운데 이 법안까지 서명할 가능성은 낮을 것이란 관측이 점차 제기되고 있다. 블룸버그통신에 따르면 최근 뉴섬 주지사는 AI 개발을 냉각시킬 수 있다며 처음으로 법안에 대한 견해를 냈다. 세일즈포스의 연례 컨퍼런스에서 그는 입증 가능한 위험과 가설적 위험을 구분할 필요성을 거론하며 "우리는 이 분야를 지배하고 있고 이를 잃고 싶지 않다"고 언급했다.
미국 대선을 앞둔 상황에서 뉴섬 주지사가 현지 산업계로부터 적잖은 반발을 살 법안에 서명하기엔 부담이 될 수 있다. 이를 발의한 미국 민주당 내에서도 거물인 낸시 펠로시 전 하원의장을 비롯해 캘리포니아주에 기반을 둔 연방의원들 위주로 반대 목소리가 이어져왔기도 하다.
'SB1047'의 향방은 국내 AI기본법 제정 관련해서도 크든 작든 영향을 끼칠 것으로 보인다. 그러나 앞서 제정된 유럽연합(EU) AI법도 글로벌 경쟁 상황과 법령 자체의 복잡성 등이 맞물려 '브뤼셀 효과'가 제한적일 것으로 전망되는 만큼, 글로벌 동향을 주시하며 보조를 맞추되 우리의 여건과 목적에 초점을 맞춰야 한다는 목소리가 힘을 얻는다.
최경진 한국인공지능법학회장(가천대 교수)은 "미국의 법안은 대상을 구체적으로 특정해 규제하는 경향이 있다. SB1047의 서명 가능성은 낮아 보이고, 이에 대해 국내에서 참고하더라도 침소봉대하면 안 된다"며 "산업 진흥과 이용자 보호를 모두 챙기려면 AI 규제에 대해 실질적 위험도와 사례 등에 근거해 입체적·유기적으로 차분화된 형태로 접근해야 할 것"이라고 설명했다.
한편 선거 딥페이크 방지를 위한 3개 법안과 함께 서명된 2개 법안은 AI로부터 배우와 공연자 및 그 권리 상속인들을 보호하는 내용이다. 위영화 제작사 등이 배우의 동의 없이 AI로 영상·음성 등 복제물을 만들 수 없게 하고(AB2602), 배우 등이 사망했을 경우 그 상속인으로부터 동의를 얻도록 했다(AB1836). 지난해 할리우드 파업의 결과물에 해당된다.팽동현기자 dhp@dt.co.kr
<캘리포니아주 AI 규제 관련 진행 상황>
| 선거 딥페이크 방지법 | 프런티어 AI모델 규제법 | |
| 법안 | AB 2355, AB 2655, AB 2839 | SB 1047 |
| 내용 | SNS 등의 선거 관련 콘텐츠에 AI 이용 제한 | 고성능 모델 대상 테스트, 킬스위치, 감사 등 |
| 논란 | 표현의 자유 침해 | AI 개발 경쟁력 저해 |
| 현황 | 주 의회 통과, 주지사 서명 | 주 의회 통과, 주지사 미서명 |
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
