'인간 부상 위험 기술' 금지 조항도 삭제
AI 윤리보다 국가 안보 초점
AI 윤리보다 국가 안보 초점
4일(현지시간) 워싱턴포스트(WP) 보도에 따르면 구글은 AI 윤리 지침을 보완하면서 기존에 명시돼 있던 "AI를 무기 개발 및 감시에 사용하지 않는다"는 제한 조항을 삭제했다.
제임스 마니카 구글 연구·기술·사회 부문 수석 부사장과 데미스 하사비스 딥마인드 대표는 블로그 게시글을 통해 AI 관련 프레임워크가 민주주의 국가들에 의해 발전하면서 구글도 AI의 잠재력과 위험성을 더 깊이 이해하게 됐다고 밝혔다.
이들은 "AI 주도권을 둘러싼 글로벌 경쟁이 점점 더 복잡한 지정학적 환경 속에서 진행되고 있다. AI 기술이 훨씬 더 널리 퍼졌으며, 민주주의 국가에 기반한 기업들이 정부 및 국가 안보 고객을 지원할 필요성이 커졌다"며 "우리는 자유, 평등, 인권 존중과 같은 핵심 가치를 지닌 민주주의 국가들이 AI 개발을 주도해야 한다고 믿는다"고 말했다.
구글은 그동안 다른 주요 AI 기업들과 달리 'AI 무기 반대' 정책을 유지해 왔다. 지난달까지만 해도 '우리가 추구하지 않을 응용프로그램' 섹션에서 △인간에게 직접적으로 부상을 입힐 가능성이 있는 무기 또는 기술 △국제적으로 통용되는 감시 규범을 위반하는 AI 기술 등을 개발하지 않겠다고 명시했었다.
그런데 이번 개정에서 이런 구체적인 금지 조항이 사라진 것이다. 대신 국제법 및 인권 원칙에 따라 기술이 사용됐는지 감독하고 피드백을 받을 것이라는 조금 더 광범위한 내용이 포함됐다.
구글의 정책 변화는 AI 기술을 미국의 국가 이익을 위해 적극 활용해야 한다는 실리콘밸리의 분위기와 맞물린 것으로 풀이된다. 최근 실리콘밸리 빅테크 기업들은 AI 윤리 정책보다 국가 안보 및 국방부와의 협력을 더욱 중시하는 흐름을 보이고 있다. 국가 안보와 미국 우선주의를 강조하는 트럼프 행정부에서는 AI 기술을 군사 및 정보전의 핵심 자산으로 보고 있기 때문이다. 트럼프는 취임 첫날부터 AI 윤리를 강조했던 기존 바이든 행정부의 AI 행정명령을 폐기한 바 있다.
실제로 MS, 아마존 등 다른 AI 기업들은 이미 오래전부터 국방부와의 협력을 이어오고 있다. 챗GPT를 개발한 오픈AI는 지난해 말 방산 스타트업 안두릴과 함께 미 국방부를 위한 기술을 개발할 것이라고 발표했다. 팔란티어와 아마존웹서비스(AWS)는 미국 정보 및 국방기관에 앤스로픽의 AI 모델 액세스를 제공하기로 했다. 아울러 메타도 국방 파트너에게 '라마'의 AI 모델을 제공한다고 밝힌 바 있다.
구글의 이 같은 정책 변화는 트럼프 대통령의 측근인 일론 머스크가 '기술업계도 미국의 국익을 위해 일해야 한다'고 말한 것에 따른 변화라는 분석이 나온다.
펜실베이니아대학교 정치학 교수이자 과거 미 국방부에서 신기술 관련 업무를 맡았던 마이클 호로위츠도 "구글의 이번 발표는 미국 기술 부문과 국방부의 관계가 점점 더 긴밀해지고 있음을 보여준다"며 "AI, 로봇 공학 등 첨단 기술이 미군에 점점 더 중요해지고 있으며, 미 정부는 기업들과 협력해 AI 기술을 책임감 있게 활용하는 방안을 모색하고 있다"고 말했다.
그러나 내부에서는 우려의 목소리도 크다. AI의 윤리적 사용과 군사적 활용 사이에서 기업의 책임이 모호해졌고 구글이 스스로 설정했던 원칙을 철회하면서 기존 약속이 무력화됐다는 지적이 나온다. 캘리포니아대(샌디에이고) 교수이자 전 구글 직원인 릴리 이라니는 "구글의 전 CEO 에릭 슈미트는 수년간 미국이 AI 경쟁에서 중국에 뒤처질 위험이 있다고 경고해 왔다"며 "구글의 초기 AI 원칙 역시 국제법과 인권을 존중할 것이라고 명시했지만, 미국 정부는 이를 지속적으로 어겨왔다. 이번 발표를 계기로 구글의 약속이 얼마나 공허한지 다시금 돌아봐야 한다"고 비판했다.
유진아기자 gnyu4@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
