AI(인공지능)의 기계학습 플랫폼으로 널리 쓰이는 구글의 '텐서플로우'보다 처리 속도가 8배 이상 향상된 기계학습 시스템을 국내 연구진이 개발했다. 방대한 양의 데이터를 처리해야 하는 초대규모 AI 기계학습 성능과 속도를 세계 최고 수준으로 높이는 기술로 활용될 것으로 기대된다.
KAIST는 김민수 교수 연구팀이 딥러닝 모델 등 AI 기계학습 모델을 학습하거나, 추론하기 위해 사용되는 기계학습 시스템의 성능을 획기적으로 높일 수 있는 '행렬 연산자 융합기술(FuseME)'를 개발했다고 20일 밝혔다.
딥러닝 모델은 대부분 구글의 '텐서플로우'나 IBM의 '시스템DS' 등과 같은 기계학습 시스템을 이용하고 있다. 최근 들어 딥러닝 모델 규모가 점점 커지고, 데이터 사용량도 폭발적으로 늘어남에 따라 이를 원활히 처리할 수 있는 고성능 기계학습 시스템의 필요성이 제기되고 있다.
일반적으로 딥러닝 모델은 행렬 곱셈, 행렬 합, 행렬 집계 등 많은 행렬 연산자들로 구성된 '방향성 비순환 그래프(DAG)' 형태의 기계학습 시스템에 의해 처리된다.
하지만, 딥러닝 모델과 데이터 규모가 늘어나면 이를 처리하는 데 실패하거나, 시간이 오래 걸리는 문제가 있다.
연구팀은 각 행렬 연산자에서 생성되는 일종의 '중간 데이터'를 저장하지 않거나, 다른 컴퓨터로 전송하지 않고 여러 행렬 연산자들을 하나의 연산자로 융합하는 기술을 개발했다.
이 기술은 융합 연산자들로 구성된 DAG 질의 계획을 생성·실행하기 때문에 저사양 컴퓨터 클러스터에서 대규모 딥러닝 모델을 메모리 부족으로 처리에 실패하지 않으면서 빠른 속도로 처리할 수 있다. 연구팀은 이 기술을 구글의 텐서플로우, IBM의 시스템DS와 비교한 결과, 딥러닝 모델 처리 속도를 최대 8.8배 이상 높였고, 텐서플로우와 시스템DS가 처리할 수 없는 훨씬 더 큰 규모의 모델 및 데이터를 처리했다고 설명했다.
아울러, 기존 최고 수준의 융합 연산자와 비교해 처리 속도를 최대 238배 향상시키고, 네트워크 통신 비용을 최대 64배 줄인다는 사실도 확인했다.
김민수 KAIST 교수는 "이번에 개발한 FuseME 기술은 행렬 곱셈 기반의 연산자들을 융합해 하드웨어 자원에 따라 계산과 통신비용, 메모리 사용 등 기존 시스템보다 성능이 우수하고, 소규모 컴퓨터 클러스터 상에서도 사용이 가능하다"며 "딥러닝 등 기계학습 모델의 처리 규모와 성능을 획기적으로 높여 게임, 가상현실 SW 분야에서 파급 효과가 클 것"이라고 말했다.
이 연구결과는 지난 16일 미국 필라델피아에서 열린 데이터베이스 분야 국제 학술대회(ACM SIGMOD)에서 발표됐다. 이준기기자 bongchu@dt.co.kr
KAIST는 AI 기계학습 시스템의 성능을 구글의 '텐서플로우'보다 앞서는 세계 최고 수준의 행렬 연산자 융합기술을 개발했다. 사진은 김민수(왼쪽) KAIST 교수와 제1저자인 한동형 그래파이 대표
