이를 위해 박윤규 과기정통부 제2차관은 AI서비스 분야별 대표기업 릴레이 방문에 나선다. 가이드라인에서 분야별·사안별 특성에 맞는 세부지침을 수립할 수 있도록 현장 의견을 수렴하는 한편, 기업들의 AI 윤리·신뢰성 준수현황을 점검하고 자발적인 이행을 독려하는 차원이다.
15일 첫 번째 현장방문으로는 국내 대표적 생성형AI 활용 기업인 업스테이지를 찾았다. 생성형AI의 문제점으로 지적받는 할루시네이션(환각·거짓) 현상을 완화하기 위한 노력과 AI 윤리·신뢰성 확산을 위한 애로사항 관련해 의견을 나눴다.
특히 이날 이활석 업스테이지 CTO(최고기술책임자)는 AI모델 학습 과정에서 발생 가능한 개인정보 유출을 방지하고 AI서비스 윤리를 확보하기 위해 데이터 관리 차원에서 대책을 마련했던 경험과 노하우를 공유했다. 또한 할루시네이션을 완화하기 위해 자사 챗봇 '아숙업(AskUp)'에 검색 서비스를 접목한 사례 등을 소개했다.
그는 "챗GPT 등 생성형AI 시대가 열리며 할루시네이션과 혐오발언 등으로 AI 윤리·신뢰성에 대한 논의가 가속화되고 있다"며 "업스테이지는 선도적인 AI기술과 민관 논의 등을 통해 AI 발전에 필수적인 윤리·신뢰성 확보를 위한 노력을 지속할 것"이라고 말했다.
과기정통부는 AI 윤리·신뢰성 확보를 위해 OECD, EU 등 AI권고안을 반영한 인공지능 윤리기준을 2020년 말 수립, 윤리기준을 자율적으로 준수·점검할 수 있는 가이드라인(자율점검표·개발안내서)을 지난해 2월 마련한 바 있다. 이를 보다 발전시키면서 윤리의식 확산 기폭제 역할을 하기 위한 이번 연속현장방문행사는 업스테이지를 시작으로 의료·제조·교육·교통운송·금융 등 분야별 대표 AI기업에서 순차적으로 열릴 예정이다.
박윤규 과기정통부 제2차관은 "AI가 산업과 우리 일상 속으로 빠르게 확산되고 있는 상황에서 기술개발부터 활용의 전 단계에서 윤리와 신뢰성을 확보하는 게 산업발전의 전제조건이 되고 있다"며 "국내 기업이 자사 제품 및 서비스에 AI 윤리·신뢰성을 선제적으로 확보할 수 있도록 산업현장에 방문해 애로사항과 지원 필요사항을 경청하고 AI 윤리·신뢰성 확산에 앞장서나가겠다"고 밝혔다.팽동현기자 dhp@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
