이번 워크샵의 서울대학교, 성균관대학교, 서강대학교, 건국대학교, 한국과학기술원(KAIST), KT, 한국전자통신연구원(KETI), 다이퀘스트 등 8개의 주요 대학, 연구기관, 기업이 참여한 가운데 '사회적·윤리적 학습을 위한 데이터 특성 및 생성 AI 모델의 윤리성 향상 연구'에 대한 가이드라인을 수립하고, 연구 성과를 공유했다. 참석자들은 다양한 도메인에서 생성 AI의 사회적·윤리적 능력을 보편적 특성에 맞게 개선하는 방안과, 이를 지속 가능하고 확장 가능한 플랫폼으로 구현하는 방안을 논의했다.
참여 기관들은 각자의 전문성을 바탕으로 사회적·윤리적 편향을 최소화한 데이터셋을 개발하고, 이를 통해 생성 AI의 윤리성을 향상시키기 위한 연구를 진행 중이다. 학제 간 협력을 강화하기 위해 "MoEE(Mixture of Ethics Experts)" 기술이 개발되었으며, 이를 통해 AI 모델의 윤리적 기준을 더욱 강화할 수 있는 기반이 마련되었다.
솔트룩스는 이번 연구 과제의 최종 목표가 Ethics-GenAIOps 오픈 플랫폼을 개방하고 100만 명 이상의 대국민 서비스 사용자를 확보하는 것이라고 밝혔다.
솔트룩스는 오는 12월 4일 본 과제 참여 기관인 서울대학교 AI연구원 인공지능 ELSI 연구센터가 주최하는 '2024 인공지능 ELSI 심포지움'에 참여할 계획이다. 이 심포지움에서는 인공지능 윤리, 편향성, 신뢰성 등을 주제로 다양한 전문가들이 모여 의견을 나눌 예정이다.
솔트룩스 관계자는 "이번 워크샵은 각 기관의 연구 성과를 공유하고 다각적인 시각과 인사이트를 얻는 유익한 자리였다"며 "성공적인 과제 수행을 위해 앞으로도 지속적으로 협력과 성과 공유의 장을 마련할 계획이다"라고 말했다.
유진아기자 gnyu4@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
