오픈AI와 전략적 제휴를 맺고 인공지능(AI) 비서 서비스 '카나나'를 개발 중인 카카오가 개인정보 등 주요 데이터 등은 철저히 분리해야 하는 안전장치를 요구받았다.
카나나에서 생성된 개인정보가 오픈AI에 저장되거나 이동할 수 없도록 차단하고, 고유식별정보나 식별성 강한 개인정보는 자체 언어모델에서만 처리해야 한다는 것이다. 개인정보보호위원회는 13일 이같은 내용을 포함한 카나나 사전적정성 검토 결과를 공개했다.
사전적정성 검토는 AI 등 신기술·신서비스 기획·개발 단계에서 기존 법해석·집행 선례만으로는 명확한 개인정보 보호법 준수방안을 찾기 어려운 경우, 개보위와 협력해 신청 대상 신기술·신서비스 환경에 적합한 법 적용방안을 마련하고, 이를 신청인이 이행하면 사후에 불이익한 처분을 부과하지 않는 제도다.
카카오는 카나나 개발 과정에서 개인정보 보호법을 충실히 준수하고 프라이버시 친화적으로 설계·운영될 수 있도록 지난해 12월 10일 개보위에 사전적정성 검토를 요청했고, 개보위는 전날인 12일 전체회의를 열고 카나나 사전적정성 검토결과를 심의·의결했다.
카나나는 이용자와 AI 대화 또는 이용자 간 대화의 맥락을 파악해 답변을 제시하는 메신저 기반의 AI 서비스다. 여러 이용자가 참여하는 단체방 대화를 기반으로 이용자 질문에 답하는 '카나' 및 이용자와 단둘이 주고받았던 대화를 기반으로 이용자 질문에 대답하는 '나나'로 구성돼 있다. 카카오는 자체 개발한 거대언어모델(LLM)을 주로 활용해 카나나를 개발 중이나 오픈AI의 챗GPT 모델 또한 보완적으로 활용하는 AI 오케스트레이션 전략을 쓰고 있다.
카카오는 안전장치(가드레일) 역할의 AI 모델을 카나나에 탑재해, 악의적인 이용자가 타인의 개인정보를 캐내려고 AI에 유도 질문을 하면 이를 차단하거나, 언어모델이 생성하는 답변에서 타인의 개인정보(전화번호, 이메일 등 식별성이 높은 정보)가 노출되는 일이 없도록 자동 검수를 진행 중이다. 개보위와의 사전적정성 검토에서는 추가적으로 4가지 안전조치를 마련하기로 협의했다.
첫번째는 개인정보 암호화다. 카나나 AI가 하나의 대화방에서 알게 된 참여자의 개인정보를 다른 대화방에서 타인에게 발설하지 않도록 기술적 안전장치를 강화하는 것이다.
또 외부모델을 활용할 경우 철저히 개인정보 등 민감한 정보 데이터가 이전되지 않도록 제한한다.
전승재 개보위 조사3팀장은 이날 브리핑에서 "대화방 데이터는 카카오 내 별도 데이터베이스에 보관되며 오픈AI 측에는 저장되지 않도록 하고, 대화 데이터 중 고유식별정보나 계좌·카드번호 등 식별성 강한 개인정보가 포함된 경우, 카카오의 자사 언어모델에서만 처리하거나 또는 외부 모델 활용 시 오픈AI가 알아볼 수 없도록 해당 부분을 암호화 처리하기로 했다"고 설명했다.
개보위는 카카오가 오픈AI와 위수탁 계약을 맺을 때 해당 조건을 명확히 담도록 조치했다. 위탁계약에는 데이터를 카카오가 맡긴 업무에 한해 활용해야 하고 오픈AI의 사업목적으로 쓰이지 않도록 해야한다는 조건을 명시하고, 챗GPT의 응답 후 오픈AI에 별도로 저장되지 않도록 기술적 제약을 두도록 했다.
카카오는 앞서 오픈AI의 전략적 제휴를 맺으며 AI 서비스 고도화 기술 협력과 AI 서비스 상품개발 등을 공동으로 추진하기로 했던 터라 데이터 보안 강화가 더 필요하다는 지적이 나온 것으로 풀이된다.
아울러 카카오가 카나나에서 확보한 이용자 대화 데이터를 자사 언어모델의 학습데이터로 활용하려면 이용자로부터 반드시 별도의 동의를 받도록 했다. 이를 원하지 않는 이용자는 동의하지 않을 수도 있다.
또한 카카오는 이용자의 대화 속 개인정보가 그대로 AI에 저장돼 향후 노출될 위험에 대응할 수 있도록 자동 필터링, 인적 검토절차 마련·공개, 피드백 프로세스 구축 등의 방안을 마련하기로 했다. 카카오는 카나나 서비스의 지속적인 개인정보 보호수준을 높일 수 있도록 카카오의 개인정보 보호책임자(CPO)가 상시 리스크 관리체계를 구축·운영하고, 중대한 리스크 관리계획 및 실행내역을 정기적으로 이사회에 보고하기로 했다.
개보위는 카나나 정식 출시 직전 이같은 보완요구가 정확히 반영됐는지 1차 이행점검을 거친 뒤 출시 후로도 카카오가 실제 기술적 보완을 이행하고 있는지 2차 점검을 할 예정이다.
카카오는 개보위와의 협의로 정비한 개인정보 보호방안을 카나나 베타버전에 적용한 뒤 출시한다는 방침이다. 올해 상반기로 예정된 베타버전 출시 일정은 변동없다.
카카오 관계자는 "신규 AI 서비스인 카나나의 출시에 앞서, 안전하고 적법한 이용자 개인정보 처리를 위해 개보위에 사전 적정성 검토제를 신청했다"며 "개보위와 협의한 사항들에 맞춰 서비스를 출시 및 운영해 갈 예정"이라고 밝혔다. 김미경기자 the13ook@dt.co.kr
정신아 카카오 대표가 지난달 4일 오전 서울 중구 더 플라자 호텔 서울에서 열린 기자간담회에서 샘 올트먼 오픈AI 최고경영자(CEO)와 악수하고 있다. 카카오 제공
전승재 개보위 조사3팀장이 13일 서울 종로구 정부서울청사에서 열린 전체회의 결과 브리핑에서 카카오의 인공지능 비서 서비스인 '카나나'에 대한 사전적정성 검토 결과를 설명하고 있다. 연합뉴스
