IISWC 2024서 최우수논문상, 최우수연구기록물상
챗GPT 같은 생성형AI 위한 클라우드 시스템 기여
KAIST는 박종세 전산학부 교수 연구팀이 지난달 캐나다 밴쿠버에서 열린 '2024 국제전기전자공학회(IEEE) 국제 워크로드 특성화 심포지엄'(IISWC 2024)에서 최우수 논문상과 최우수 연구기록물상을 동시 수상했다고 13일 밝혔다.
박 교수 연구팀은 '초거대 언어모델 추론 서비스 제공을 위한 HW·SW 공동 시뮬레이션 인프라' 논문으로 두 상을 받았다. IISWC는 컴퓨터 시스템 워크로드 특성화 분야의 세계적 학회로, 올해는 박 교수팀이 최우수상 논문상과 최우수 연구기록물상 모두 단독으로 받았다.
이번 수상은 대규모 거대언어모델(LLM) 추론 서비스를 위한 하드웨어와 소프트웨어 통합 시뮬레이션 인프라를 처음 개발한 점과 향후 LLM 추론 연구의 지속 발전을 위해 오픈소스로 공개한 코드의 완성도와 사용자 편의성 측면에서 높은 평가를 받았다.
특히 그래픽처리장치(GPU), 신경망처리장치(NPU), 지능형메모리반도체(PIM) 등과 같은 다양한 하드웨어뿐 아니라 반복 수준의 스케줄링 등 LLM 추론을 위한 소프트웨어적 요소를 모두 시뮬레이션할 수 있어 이종 AI반도체 기반 클라우드 시스템 구축 등에 활용될 것으로 기대된다.
박종세 KAIST 교수는 "LLM 클라우드 상에서 다양한 AI반도체와 시스템 소프트웨어의 성능을 종합적으로 평가할 수 있는 오픈소스 도구를 공개하는 연구였다"며 "앞으로 생성형 AI를 위한 클라우드 시스템 연구를 지속해 나가겠다"고 말했다.
2024 IEEE 국제 워크로드 특성화 심포지엄에서 최우수논문상과 최우수 연구기록물상을 수상한 박종세(왼쪽 첫번째) KAIST 교수와 연구팀.
