오픈AI가 최근 자사의 인공지능 '챗GPT'를 악용한 북한·중국 계정들을 잇따라 적발해 삭제했다. 북한은 미국·유럽 기업에 침투하기 위해 챗GPT로 허위 이력서를 대량 생성했고 중국 보안 조직은 반중국 게시물 실시간 보고를 위한 인공지능(AI) 감시 도구를 구축해온 사실이 드러났기 때문이다.
오픈AI는 자체 '피어 리뷰(동료 평가)' 기술로 이들의 흔적을 포착해 즉각 대응했고 앞으로도 유사 사례를 면밀히 모니터링하겠다는 입장이다.
22일(현지시간) 오픈AI는 악의적 목적으로 자사의 인공지능(AI) 모델인 챗GPT를 사용한 북한 관련 계정을 확인하고 이를 삭제했다고 밝혔다.
북한과 관련 있는 것으로 추정되는 계정들은 허위 이력서와 온라인 프로필을 생성하기 위해 오픈AI의 AI 기술을 사용한 것으로 파악됐다. AI를 이용해 만든 가짜 이력서와 프로필은 서구 기업을 속여 일자리를 얻기 위한 목적이었다고 오픈AI는 설명했다. 다만 오픈AI는 삭제한 계정 수와 이들 계정을 언제 삭제했는지 등 구체적인 내용은 언급하지 않았다.
북한은 첨단 기술을 훔치고 불법 핵무기 프로그램 자금을 확보하는 데에도 이미 생성형 AI를 사용하고 있는 것으로 알려져 있다. 생성형 AI를 이용해 링크트인 등에 그럴듯한 채용 담당자로 위장한 프로필을 작성해 피해자와 오랜 기간 신뢰 관계를 구축한 뒤 스파이웨어를 침투시켜 자금을 빼내 가는 방식이다.
파이낸셜타임스(FT)는 북한 해커들이 이런 수법으로 싱가포르의 한 가상화폐 거래소 채용 담당자로 위장한 뒤 일본 가상화폐 거래소 엔지니어를 표적으로 삼아 가상화폐를 빼내 가는 등 수십 곳에서 10억달러 이상의 가상화폐를 빼냈다고 보도한 바 있다.
북한 계정 외에 감시와 여론 조작 등에 챗GPT를 활용한 중국 관련 계정들도 삭제됐다. 이들 계정은 챗GPT를 이용해 미국을 비방하는 스페인어 뉴스 기사를 생성한 것으로 나타났다. 미국 사회와 정치를 비판한 내용의 이 기사는 중국 회사 명의로 남미 지역의 주요 뉴스 매체에 게재됐다.
또 중국의 한 보안 조직은 SNS에서 반중국 게시물에 대한 실시간 보고서를 수집하기 위해 AI 기반 감시 도구를 구축했다고 오픈AI는 밝혔다. 오픈AI는 이를 '피어 리뷰'라고 부르며, 개발자가 감시 도구의 기반이 되는 일부 컴퓨터 코드를 디버깅(오류 수정)하기 위해 자사의 기술을 사용했기 때문에 식별할 수 있었다고 설명했다.
벤 니모 오픈AI 수석 연구원은 "이런 종류의 AI 기반 감시 도구를 발견한 것은 이번이 첫 번째"라며 "악의적인 행위자들이 우리의 AI 모델을 사용할 때 남기는 흔적을 통해 그들의 다른 인터넷 활동을 파악하고 악의적인 행위를 탐지할 수 있다"고 말했다.
