22일 연합뉴스에 따르면 오픈AI는 악의적 목적으로 자사의 인공지능(AI) 모델인 챗GPT를 사용한 북한 관련 계정을 확인하고 이를 삭제했다고 21일(현지시간) 밝혔다. 북한과 관련 있는 것으로 추정되는 계정들은 허위 이력서와 온라인 프로필을 생성하기 위해 오픈AI의 AI 기술을 사용한 것으로 파악됐다.
AI를 이용해 만든 가짜 이력서와 프로필은 서구 기업을 속여 일자리를 얻기 위한 목적이었다고 오픈AI는 설명했다. 오픈AI는 다만, 삭제한 계정 수와 이들 계정을 언제 삭제했는지 등 구체적인 내용은 언급하지 않았다.
북한은 첨단 기술을 훔치고 불법 핵무기 프로그램 자금을 확보하는 데에도 이미 생성형 AI를 사용하고 있는 것으로 알려졌다. 그동안 링크트인과 같은 네트워크 플랫폼에서 사이버 보안, 가상화폐 기업 직원 등을 속여 민감한 정보나 가상화폐 접근 권한을 빼앗으려 했던 북한 해커들이 AI를 이용해 수법이 더욱 정교해지고 있는 것이다.
생성형 AI를 이용해 링크트인 등에 그럴듯한 채용 담당자로 위장한 프로필을 작성해 피해자와 오랜 기간 신뢰 관계를 구축한 뒤 스파이웨어를 침투시켜 자금을 빼내 가는 방식이다.
파이낸셜타임스(FT)는 북한 해커들이 이런 수법으로 싱가포르의 한 가상화폐 거래소 채용 담당자로 위장한 뒤 일본 가상화폐 거래소 엔지니어를 표적으로 삼아 가상화폐를 빼내 가는 등 수십 곳에서 10억 달러 이상의 가상화폐를 빼냈다고 보도한 바 있다.
북한 계정 외에 감시와 여론 조작 등에 챗GPT를 활용한 중국 관련 계정들도 삭제됐다. 이들 계정은 챗GPT를 이용해 미국을 비방하는 스페인어 뉴스 기사를 생성한 것으로 나타났다. 미국 사회와 정치를 비판한 내용의 이 기사는 중국 회사 명의로 남미 지역의 주요 뉴스 매체에 게재됐다.
또 다른 일부 계정은 캄보디아에 기반을 둔 금융 사기 조직과 관련된 것으로 추정됐다. 이 계정은 엑스(X·옛 트위터), 페이스북 등 소셜미디어(SNS)에서 댓글을 번역하고 생성하기 위해 챗GPT를 사용했다.
AI가 생성한 댓글은 인터넷에서 사람들을 꾀어 투자 사기에 휘말리게 하는 데에도 사용됐다. 또 중국의 한 보안 조직은 SNS에서 반중국 게시물에 대한 실시간 보고서를 수집하기 위해 AI 기반 감시 도구를 구축했다고 오픈AI는 밝혔다.
오픈AI는 이를 '피어 리뷰'(Peer Review·동료 평가)라고 부르며, 개발자가 감시 도구의 기반이 되는 일부 컴퓨터 코드를 디버깅(오류 수정)하기 위해 자사의 기술을 사용했기 때문에 식별할 수 있었다고 설명했다.
오픈AI 수석 연구원 벤 님모는 "이런 종류의 AI 기반 감시 도구를 발견한 것은 이번이 첫 번째"라며 "악의적인 행위자들이 우리의 AI 모델을 사용할 때 남기는 흔적을 통해 그들의 다른 인터넷 활동을 파악하고 악의적인 행위를 탐지할 수 있다"고 말했다.박상길기자 sweatsk@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
