오픈AI 챗봇 장터 'GPT 스토어'
기업 노하우 터는 프롬프트 해킹
이성친구 표방 챗봇 무방비 노출
유료화 땐 불법·사기 늘어날 듯
기업 노하우 터는 프롬프트 해킹
이성친구 표방 챗봇 무방비 노출
유료화 땐 불법·사기 늘어날 듯
대표적으로 논란을 빚고 있는 것은 GPT스토어에 등록된 챗봇을 겨냥한 프롬프트(지시어) 해킹이다. 자신만의 GPT(챗봇)를 만들어 GPT스토어에 등록한 개인이나 기업들의 정보나 노하우 등이 무방비로 털릴 위험이 있다.
현재 스토어에 등록된 AI봇을 선택해 특정 프롬프트를 입력하면 이용자가 이를 만드는 과정에서 어떤 프롬프트를 썼는지 대부분 알아낼 수 있다. 소셜미디어(SNS)나 커뮤니티 등을 통해 그 방법이 공공연하게 공유되고 있다. 그러나 며칠이 흘렀음에도 오픈AI 측에서 별다른 조치를 취하지 않고 있다.
성적 상품화를 노리고 선정성을 띠는 챗봇들도 우후죽순 등장하고 있다. 가상의 이성친구를 표방하는 챗봇들이 대거 쏟아지는 가운데 카마수트라와 같이 성적인 내용을 다루는 챗봇도 등록돼 있다. 오픈AI는 성적으로 부적절한 내용을 다루는 챗봇은 금지한다고 규정하고 있지만 이 역시 관리가 되지 않는 것으로 보인다. 현재 GPT스토어는 연령제한 없이 쓸 수 있다 보니 어린이나 청소년들이 사행성 AI앱에 무방비로 노출될 수 있다.
오픈AI는 GPT 빌더(만든 이)가 수익을 얻을 수 있는 구조를 1분기 중 공개할 예정이다. 이런 관리부재 상태에서 유료화가 도입될 경우 수익을 노린 불법·사기 행태가 더 횡행할 가능성이 점쳐진다.
스마트폰용 모바일앱 거래 장터인 구글 플레이스토어도 초창기에는 악성 앱이 범람했지만 현재는 콘텐츠 등급과 개인정보 처리방침 등 설정을 요구하고 구글의 정책 준수 여부 등 심사를 거쳐야 출시가 이뤄진다. GPT스토어가 자정을 이루지 못한 채 향후 수수료 적용 등 본격적인 수익화를 추진하는 때에도 관리부실 문제가 지속된다면, AI저작권 침해 이슈와 더불어 AI생태계 전반에 악영향이 우려된다.
최경진 한국인공지능법학회장(가천대 법학 교수)은 "LLM(거대언어모델)이 과거 OS(운영체제)처럼 플랫폼 역할을 하면서 AI앱스토어 유형의 사업모델도 각자 수익화를 추구하는 과정에서 확산될 것으로 보인다. 이에 대비해 AI 이용자 보호에 좀 더 초점을 맞출 필요가 있다"며 "과거 정보통신 서비스 사업자들이 자율규제 등의 요구에 따라 변화를 취했던 것처럼 AI플랫폼 기업들도 정보 제공과 매개에 그칠 게 아니라 유통되는 정보에 대해 책임지는 체계를 마련해야 한다"고 짚었다.
팽동현기자 dhp@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
