[기획] AI 스토어 점령한 `짝퉁 앱`

입력: 2024-01-18 11:50 팽동현 기자

폰트

기자 구독

클로바X·에이닷 등 명칭 사칭
챗GPT 전체공개때 제지 안해
국내 기업들과 전혀 관계 없어
이미지·신뢰도에 악영향 우려

오픈AI가 최근 선보인 'AI판 앱스토어'에 국내 기업의 AI 서비스로 위장한 '짝퉁 AI앱'들이 대거 등장한 것으로 확인됐다. 네이버, SK텔레콤, 업스테이지 등 국내 기업의 AI서비스처럼 보이는 앱들이 버젓이 등록돼 있다. 이미 수백만개 AI앱이 등장한 가운데 불법과 사기를 막을 여과장치가 없다는 지적이 나온다.

18일 본지가 오픈AI의 GPT스토어를 확인한 결과 네이버 '클로바X'와 비슷한 명칭을 쓰는 클로'버'X, SK텔레콤의 '에이닷'을 연상시키는 에이'아이'닷 등 국내 주요 AI서비스로 위장한 챗봇들이 등록돼 있었다. 이 챗봇들을 개발해 등록한 이는 'genexis.ai'라는 동일인인 것으로 밝혀졌다.

국내 AI 스타트업 업스테이지가 카카오톡을 기반으로 개발해 서비스하고 있는 'AskUP(아숙업)'은 한술 더 떠서 아예 명칭이 똑같은 AI 서비스가 등록돼 있다.

이 같은 '짝퉁 AI앱'은 국내 기업들과는 전혀 관계가 없는 것이다. GPT스토어 이용자들에게 혼란을 줄 뿐 아니라 국내 기업의 이미지와 신뢰도에도 영향을 미칠 것으로 우려된다.

GPT스토어에서 사칭이나 위장 등을 막기 위한 검증이 이뤄지는지 파악하기 위해 기자가 직접 오픈AI의 경쟁사인 구글의 AI 챗봇 '바드(Bard)'와 같은 이름으로 챗봇을 만들어 등록해본 결과 경고나 주의 메시지 없이 일사천리로 앱이 등록됐다. 챗봇 개발 과정에서 명칭을 지정할 때 다른 유명 AI서비스와 같다는 안내가 별도로 없었다. 공개 범위를 전체공개로 설정해 스토어에 등록할 때도 아무런 제재가 이뤄지지 않았다.

생성형AI 열풍이 불면서 지난해부터 구글 플레이, 애플 앱스토어 등 모바일앱 마켓에서도 챗GPT를 사칭하는 앱들이 우후죽순 등장해 문제가 된 바 있다. 오픈AI가 야심차게 마련해 AI 시대의 앱 생태계를 쥐겠다는 각오로 선보인 마켓플레이스에서도 비슷한 상황이 벌어진 것이다. 스토어 등록까지 검증절차나 안전장치가 없다시피 한 것으로, 이는 향후 이용자 피해나 기업간 분쟁으로 이어질 소지가 크다는 점에서 심각성이 있다. 이용약관이나 사용자들의 자율적 신고가 있다지만 악성행위를 막지 못하는 것으로 보인다. 현재는 등록된 앱들이 무료지만, 유료 거래가 시작되면 더 상황이 악화될 가능성이 점쳐진다.

오픈AI가 지난 10일(현지시간) 출시한 GPT스토어는 개인이나 기업이 직접 챗GPT를 이용해 맞춤형 챗봇을 만들어 등록함으로써 이용자들이 공유 또는 거래할 수 있는 일종의 앱마켓이다. 국내 기업 중 인스웨이브시스템즈, 폴라리스오피스, 샌즈랩 등이 이미 입점했고 한글과컴퓨터, 이스트소프트 등도 준비를 하고 있다.

자사 AI 서비스와 같은 이름의 챗봇이 GPT스토어에 등록돼 있는 업스테이지의 관계자는 "GPT스토어를 통해 손쉬운 AI 봇들이 많이 나오고 생태계가 확장되는 긍정적 효과가 기대되지만 최근 프롬프트 해킹으로 인한 데이터 유출 등에 이어 이용자 피해로 이어질 수 있는 사칭 봇도 있어 놀랐다"며 "챗GPT 출시 초기부터 피싱 앱들이 챗GPT 앱을 사칭하는 현상 등이 있었는데 그런 피해 가능성이 우려된다"고 밝혔다.

팽동현기자 dhp@dt.co.kr