한국과학기술원(KAIST)은 싱가포르국립대 리스크공공이해연구소, 영국 센스 어바웃 사이언스와 함께 보건의료 분야 인공지능(AI) 활용 가이드를 개발했다고 16일 밝혔다.
인공지능 기술이 경제·산업·문화 분야에 전방위로 확산하면서 많은 부가가치를 내고 있지만, 급속한 기술 도입이 데이터의 편향을 가져올 수 있다는 우려도 커지고 있다. 특히 보건의료 분야는 데이터의 품질과 검증 여부가 생명과 직결되는 만큼 데이터의 타당성과 안전성이 무엇보다 중요하다.
국제 공동 연구팀은 보건의료 분야 인공지능 데이터의 정확성을 확보해 오류를 최소한으로 줄이고 신뢰성을 높이기 위한 가이드를 제작했다.
의료영상 분석과 진단의 효과성 향상, 빅데이터를 활용한 질병 예측, 신약 개발 분야 시간 단축 등 의료 분야에 인공지능 기술을 적용한 국내·외 사례를 담았다.
특히 학습데이터에 누락되거나 제외된 정보가 있으면 인공지능이 편향성을 나타낼 수 있으며, 그로 인해 변수 간의 연관 관계나 결과까지도 잘못 판단할 수 있다는 점을 강조했다.
예를 들어 독일에서 개발한 피부 병변을 감지해 암 발생 가능성을 진단하는 인공지능 기술은 진단 정확도가 87%로 의사들의 정확도(79%)보다 높지만, 옅은 피부색을 가진 사람들로부터 수집한 데이터를 활용해 학습한다면 짙은 피부색을 가진 환자의 병변은 제대로 진단하지 못할 가능성이 커진다.
인공지능은 현실에 존재하는 데이터를 바탕으로 학습하기 때문에 사회적 편견이나 편향, 위험한 가정들을 그대로 내재한 결과가 나올 수 있다고 연구팀은 설명했다.
연구팀은 데이터의 공정성과 신뢰성을 높이는 방안으로 '출처가 정확한 데이터 사용', '사용 목적에 맞는 데이터의 수집과 선택', '제한 사항과 가정의 정확한 언급', '데이터의 편향성 명시', '실제 환경에서의 적절한 테스트 이행' 등 5가지 기준을 제시했다. 이준기기자 bongchu@dt.co.kr
인공지능 기술이 경제·산업·문화 분야에 전방위로 확산하면서 많은 부가가치를 내고 있지만, 급속한 기술 도입이 데이터의 편향을 가져올 수 있다는 우려도 커지고 있다. 특히 보건의료 분야는 데이터의 품질과 검증 여부가 생명과 직결되는 만큼 데이터의 타당성과 안전성이 무엇보다 중요하다.
국제 공동 연구팀은 보건의료 분야 인공지능 데이터의 정확성을 확보해 오류를 최소한으로 줄이고 신뢰성을 높이기 위한 가이드를 제작했다.
의료영상 분석과 진단의 효과성 향상, 빅데이터를 활용한 질병 예측, 신약 개발 분야 시간 단축 등 의료 분야에 인공지능 기술을 적용한 국내·외 사례를 담았다.
특히 학습데이터에 누락되거나 제외된 정보가 있으면 인공지능이 편향성을 나타낼 수 있으며, 그로 인해 변수 간의 연관 관계나 결과까지도 잘못 판단할 수 있다는 점을 강조했다.
예를 들어 독일에서 개발한 피부 병변을 감지해 암 발생 가능성을 진단하는 인공지능 기술은 진단 정확도가 87%로 의사들의 정확도(79%)보다 높지만, 옅은 피부색을 가진 사람들로부터 수집한 데이터를 활용해 학습한다면 짙은 피부색을 가진 환자의 병변은 제대로 진단하지 못할 가능성이 커진다.
인공지능은 현실에 존재하는 데이터를 바탕으로 학습하기 때문에 사회적 편견이나 편향, 위험한 가정들을 그대로 내재한 결과가 나올 수 있다고 연구팀은 설명했다.
연구팀은 데이터의 공정성과 신뢰성을 높이는 방안으로 '출처가 정확한 데이터 사용', '사용 목적에 맞는 데이터의 수집과 선택', '제한 사항과 가정의 정확한 언급', '데이터의 편향성 명시', '실제 환경에서의 적절한 테스트 이행' 등 5가지 기준을 제시했다. 이준기기자 bongchu@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
