KAIST, 무작위 사전 학습 통해 효율 높여
뇌의 효율적 학습원리 규명..차세대 AI 기여
국내 연구진이 뇌 모방 인공신경망에서 무작위 정보를 사전 학습시켜 실제 데이터를 접했을 때 훨씬 빠르고 정확한 학습을 가능케 하는 새로운 인공지능(AI) 모델을 개발했다. 인공신경망 모델의 근본적인 문제를 해결하는 차세대 AI 개발에 기여할 전망이다.
KAIST는 백세범 뇌인지과학과 교수 연구팀이 뇌 모방 인공신경망 학습의 오래된 난제였던 '가중치 수송 문제'를 해결하고, 이를 기반으로 생물학적 뇌 신경망의 효율적 학습이 가능한 AI 기술을 개발했다고 23일 밝혔다.
인간의 뇌는 외부 세상으로부터 감각 정보를 받아 들이기 이전부터 자발적인 무작위 활동을 통해 학습을 시작한다. 무작위 활동을 통해 두뇌는 신경망 구조를 최적화하고, 이런 활동이 결핍되면 신경회로 발달에 문제가 생겨 그 중요성이 매우 크다.
연구팀은 생물학적 뇌 발달 과정에서 나타나는 정보 학습 이전의 무작위 신경 활동에 주목했다. 지난 수십 년 간 AI는 올해 노벨 물리학상을 받은 제프리 힌튼이 1986년 제시한 오류 역전파 학습에 기반을 두고 발전해 왔다. 오류 역전파 학습은 최종 끝단에서 도출된 오류에 대해 이전 단계로 돌아가 계산한 뒤 가중치를 부과하는 '가중치 수송' 방법으로 답을 내는 학습 방식이다.
신경망을 일일이 연결하지 않아도 데이터를 통한 학습을 가능케 해 인공신경망 훈련의 혁신을 가져왔다는 평가를 받고 있지만, 대규모 데이터 학습과 막대한 계산 작업을 필요로 한다. 힌튼을 비롯한 연구자들은 가중치 수송 문제를 해결하고, 뇌의 학습 원리를 구현할 수 있는 생물학적으로 타당한 모델을 만들기 위한 시도를 계속해 왔다.
2016년 영국 옥스퍼드대와 딥마인드 공동 연구팀은 가중치 수송을 사용하지 않고도 오류 역전파 학습이 가능하다는 개념을 최초로 제시했지만, 학습 속도가 느리고 정확도가 낮아 실제 적용에 문제가 있었다.
연구팀은 생물학적 뇌는 자발적인 무작위 신경 활동을 통해 외부의 감각 경험을 하기 이전부터 학습을 시작한다는 점에 주목했다. 생물학적으로 뇌와 유사한 신경망을 구현한 뒤 무작위 정보를 사전 학습시켜 가중치 수송 없이도 기존 인공신경망과 비슷한 수준의 학습 효율을 얻을 수 있음을 보였다. 실제 데이터 학습에 앞서 무작위 정보를 학습하는 것이 배우는 방법을 배우는 '메타 학습'이라는 것도 밝혀냈다. 백세범 KAIST 교수는 "기계학습에서의 가중치 수송 문제를 해결함으로써 인공신경망의 학습과 뇌 학습 사이 간극을 좁힐 수 있는 새로운 관점을 제시한 연구라는 데 의미가 있다"며 "차세대 AI 개발에 기여할 것으로 기대한다"고 말했다.
이 연구결과는 오는 12월 10일부터 15일까지 캐나다 밴쿠버에서 열리는 인공지능 학회인 '제38회 신경정보처리학회'에서 발표될 예정이다. 이준기기자 bongchu@dt.co.kr
KAIST는 생물학적 뇌의 무작위 정보 사전 학습을 통해 가중치 수송 없이 높은 학습 효율을 얻을 수 있는 새로운 AI 기술을 개발했다. KAIST 제공
