대화는 최근 카카오가 만든 기업용 메신저 플랫폼 '카카오워크'를 이용한 한 이용자 A(남·49)씨와 캐스퍼의 실재 대화내용이다. 캐스퍼는 에 장착된 AI(인공지능)이다. 빗썸은 가상화폐에서 그 규모 등을 인정받는 곳이다. 업비트는 카카오가 투자한 회사로, 이 회사 이석우 대표는 전임 카카오 대표였다.
업비트 입장에서 빗썸은 경쟁사였던 것이다. 카카오워크의 캐스퍼의 답은 자연스럽게 관계사와의 경쟁사를 배제하는 것이었다.
과연 옳은 일일까? AI 개발 전문가들은 "당연하다"고 답한다. 돈을 들여 개발했으니, AI가 개발자를 위해 일하는 게 당연하다는 의미다. 하지만 과연 그럴까? 그럼 AI를 이용하는 고객은 AI에겐 무엇일까? '호갱'일 뿐일까?
소비자에게 "당신이 쓰는 AI의 진정한 주인은 당신이 아니라 개발자일 수 있다"고 한다면 어떤 반응이 있을까?
현대카드를 사용 중인 B(29) 씨 역시 비슷한 경험을 했다. 스마트폰 현대카드 앱에 있는 AI 챗봇 '헨리'에게 "(현대카드로) 보험할인 얼마나 가능해?"라고 물었다. 헨리는 "적립한 M포인트로 보험료를 납부할 수 있어요. 푸본현대생명 ZERO보험 계속보험료의 100%, 보험료 일시납의 50%을 할인받을 수 있습니다"고 답했다.
이번엔 "삼성카드로는 보험할인 얼마나 가능해?"라고 물었다. 핸리는 고민하듯 말했다.
"흠흠, 굳이 답변이 필요하신가요? 경쟁사에 대한 질문은 생략하도록 하겠습니다."
B씨의 사례는 그나머 점잖다. 굳이 경쟁사의 답을 피하는 센스를 견비한 것이다. 하지만 모든 AI가 이런 센스를 겸비한 것은 아니다. 이미 곳곳에서 개발자에게만 충성하는 AI들이 사회 문제를 야기하기 시작하고 있다.
이재명 경기도 지사의 카카오 T블루의 콜 몰아주기 논란이 있었고, 네이버쇼핑은 검색 부당행위 혐의로 공정거래위원회의 과징금을 부과받기도 했다.
최근 국정감사에서 이와 같은 '카카오워크', '네이버쇼핑' 등과 관련한 AI 알고리즘의 공정성 시비 논란이 불거졌다. AI 알고리즘이 제작한 기업을 우선하고, 소비자는 뒷전이라는 것이 핵심 문제점이다. 많은 국민이 사용하는 포털이나 메신저 AI가 '공정성'을 잃은 채, 특정 기업에 우선하는 답변만 한다면 소비자는 정확한 정보를 알기 쉽지 않다는 것이다.
정희용 국민의힘 의원은 지난 7일 과학기술정보통신위원회 국정감사에서 "포털사(카카오)의 업무용 플랫폼(카카오워크) 인공지능 서비스(캐스퍼)에게 '암호화폐 투자를 어디에서 해야 하는가'라고 물으니 업비트쪽으로 유도하더라. 업비트 대표가 바로 해당 포털의 전임 대표"라고 말했다.
이에 의원들은 인터넷기업의 AI와 검색 알고리즘에 대해 공정성 문제를 제기하며, 과학기술정보통신부 장관에게 '알고리즘 공정성 가이드라인'을 만들라고 요구하고 나섰다.
박성중 국민의힘 의원은 "왜 (윤영찬 의원이 주호영 원내대표 기사의 편집 상태를 보고 카카오) '들어오라 그래'라고 했는지 이제야 알 수 있겠다"고 말했다. 또 같은 당 박대출, 황보승희 의원 등도 "알고리즘은 결코 중립적이지 않다"며 "기술을 다루는 과기부에서 알고리즘 공정성 가이드라인을 반드시 만들어야 한다"고 주장했다.
그러나 AI 서비스를 제공하는 기업들은 검색이나 AI로 자동 응대나 상품을 추천해주는 알고리즘은 기업의 영업 경쟁력의 원천이자 지적재산권이기 때문에 공개하기 어렵다고 주장하고 있다.
최기영 과기부 장관도 국감에서 "AI 알고리즘을 편향되게 하는 건 쉽게 가능하지만, 중립적으로 만드는 것은 굉장히 어려운 일"이라며 "알고리즘을 만드는데 고의적으로 편향성이 없게 하는 것은 AI 윤리헌장 등에 내용을 담을 수 있지만, 알고리즘 공개는 영업비밀로 그것을 강제하는 건 어려움이 있다"고 주장했다. 황병서기자 BShwang@dt.co.kr
