지난 18일(현지시간) 테크크런치 보도에 따르면, 오픈AI는 내부 테스트에서 새로운 추론모델인 o3와 o4-미니가 기존 o1, o1-미니, o3-미니는 물론이고 비추론모델인 GPT-4o보다도 할루시네이션이 더 자주 발생하는 것으로 확인했다.
대형언어모델(LLM)이 구조적으로 안고 있는 할루시네이션 문제에 대해 그동안 오픈AI는 새 모델을 내놓을 때마다 꾸준히 개선된 결과를 내왔다. 하지만 이번엔 그렇지 못했고, 그 이유에 대해서도 "더 많은 연구가 필요하다"고 밝힌 상태다. o3 및 o4-미니 관련 기술보고서에서 "전반적으로 더 많은 주장을 한다"면서 "더 정확한 주장뿐만 아니라 더 부정확하거나 왜곡된 주장을 하게 된다"고 기술했다.
사람에 대한 모델의 지식 정확도를 측정하는 오픈AI 사내 벤치마크(PersonQA)에서 o3는 33%의 질문에 대해 할루시네이션을 일으키는 결과를 냈다. 기존 추론모델인 o1(16%)와 o3-미니(14.8%)보다 할루시네이션이 약 2배 더 심한 것이다. o4-미니의 경우 더 성적이 나빠서 48%에 육박했다.
심해진 할루시네이션 때문에 기존 모델들보다 덜 유용할 것이란 지적도 제기된다. 비영리 AI연구소 트랜슬루스(Transluce)도 o3가 답변 도출 과정에서 자신이 취한 행동에 대해 짜맞추는 경향을 테스트를 통해 발견했다. 전 오픈AI 직원인 닐 차우두리(Neil Chowdhury) 트랜슬루스 연구원은 테크크런치에 "o시리즈 모델에 쓰인 강화학습 유형이 표준 사후학습 파이프라인에 의해 일반적으로 완화돼온 문제를 증폭시켰을 수 있다"는 가설을 제기했다.
일반적으로 할루시네이션 저감에 널리 쓰이는 방법은 검색증강생성(RAG)을 통해 웹 등에서 추가로 정보를 탐색케 하는 것이다. GPT-4o도 웹 검색 기능을 갖춘 이후론 오픈AI 사내 벤치마크에서 할루시네이션이 10% 수준으로 낮아졌으며, 최신 추론모델들 또한 이를 통해 개선된 결과를 기대할 수 있다. 다만 AI의 창의성과 효율성에 이점을 주는 추론모델의 사고 능력이 향상되는 만큼 그 반대급부로 모델 자체의 정확성과 신뢰성을 저해하게 된다면 이에 대한 근본적인 해결책이 필요해질 수 있다.
이제현 한국에너지기술연구원 에너지AI·계산과학실장은 "아직 공개된 내용만으론 할루시네이션 증가와 관련해 큰 실마리는 없다"면서도 "다만 AI의 추론능력은 논리력이라, 사실관계 확인이란 측면에선 무관할 수 있다"고 설명했다.
오픈AI는 지난 16일(현지시간) o3를 출시하면서 수학·과학·코딩 등에서 이전 모델들을 능가하는 자사의 가장 정교한 추론모델이자, 이미지에 대해 단순히 보는 것을 넘어 이해·분석하는 첫 모델이라고 소개한 바 있다. 할루시네이션 증가에 대해 오픈AI 측은 "모든 모델에서 할루시네이션 문제를 해결하는 것은 지속적인 연구 분야이며, 정확성과 신뢰성을 개선하기 위해 지속적으로 노력하고 있다"고 전했다.
팽동현기자 dhp@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
