구글이 새로운 인공지능(AI) 검색엔진 '오버뷰'에서 사용자 물음에 틀린 답변을 제시하는 등 오답 논란이 일어난 것에 대해 기술 개선 조치를 했다.
2일 업계에 따르면 구글 검색사업부문 책임자인 리즈 리드는 지난달 31일(현지시간) 블로그를 통해 "AI 개요(AI Overview)에서 일부 이상하거나 부정확하고, 도움이 되지 않는 답변이 확실히 나타났다"며 이를 개선했다고 밝혔했다.
구글 AI 개요는 구글이 기존 검색 엔진에 자사의 생성형 AI인 제미나이를 탑재한 새로운 검색 엔진이다. 이용자 질문에 AI가 생성한 답변과 관련 링크를 제공한다.
그러나 미국에서 첫선을 보인 후 몇 주만에 잘못된 답변을 내놓는 사례가 잇따라 발생하며 논란이 됐다.
이 엔진은 "미국에 몇 명의 무슬림 대통령이 있었느냐"는 질문에 "버락 후세인 오바마라는 한 명의 무슬림 대통령이 있었다"는 오답을 내놓았다.
또 "개를 뜨거운 차에 놔둬도 괜찮은가"라는 질문에는 "항상 안전하다"고 답변하고, "사람이 하루에 얼마나 많은 돌을 먹어야 하는가"라는 질문에는 "UC 버클리 지질학자들에 따르면 적어도 하나의 작은 돌을 먹어야 한다"고 답해 논란이 됐다.
이에 구글은 개선 작업에 착수해 약 일주일만에 이를 개선했다고 밝혔다.
구글은 AI 개요가 적절한 답변을 내놓기 어려운 질문을 탐지하는 메커니즘을 더 광범위하게 적용했다고 설명했다. 또 오해의 소지가 있는 조언을 제공할 수 있는 사용자 생성 콘텐츠의 사용을 제한하는 시스템도 업데이트했다. 특히 건강 관련 질문에 대한 답변의 질을 높이기 위해 일반적인 정보 외에 구체적인 치료 방법이나 의료 조언은 하지 않도록 하는 등 특정 질문이나 키워드에 대한 답변의 범위나 방식을 제한했다.
리즈 리드는 "AI 개요는 기존 검색 엔진과 통합돼 다른 언어 모델 기반 제품처럼 환각을 일으키거나 뭔가를 만들어내지 않는다"며 "이상한 답변을 하는 경우는 검색어나 언어 뉘앙스를 잘못 해석하거나 유용한 정보가 많지 않은 경우 때문"이라고 설명했다.전혜인기자 hye@dt.co.kr
