SK하이닉스가 대전광역시 카이스트(KAIST)에서 인공지능(AI)·반도체 관련 학과 학부생과 대학원생을 대상으로 'AiM(Accelerator-in-Memory) 이론 및 실습' 교육을 진행했다고 8일 밝혔다.
지난달 20일과 21일 진행한 이번 교육에서는 카이스트를 비롯해 국내 주요 대학교의 학부, 대학원 수강생들을 대상으로 거대언어모델(LLM)과 SK하이닉스의 PIM 반도체인 AiM의 이론·실습 교육이 제공됐다. 특히 이번 교육은 PIM 제품을 활용한 실습도 포함했다.
이번 강의 주제인 PIM은 메모리 반도체에서 일부 연산을 수행해 데이터 이동을 최소화함으로써 데이터 처리 속도가 향상될 뿐만 아니라 전력 대비 성능비도 높아지는 특징이 있다. AI와 빅데이터 등 방대한 양의 데이터 연산이 필요한 분야에서 기존 컴퓨팅 생태계를 혁신할 차세대 반도체로 각광받는다.
SK하이닉스와 카이스트 PIM반도체설계연구센터는 하드웨어, 소프트웨어를 아우르는 PIM 전문가를 양성하고자 이번 교육을 기획했으며 이를 계기로 앞으로도 더욱 많은 교육 프로그램을 추진해 미래 반도체 인재 양성에 힘쓰겠다는 구상이다.
강사로는 김정빈 SK하이닉스 PIM HW팀 TL, 신경철 SK하이닉스 PIM HW팀 TL이 나섰다. 교육 첫날에는 △AI와 거대언어모델이란? △챗봇 서비스는 우리에게 어떻게 제공될까? △K하이닉스의 GDDR6-AiM과 AiMX 등을 주제로 이론 강의를 진행했다.
AI와 LLM의 기본 지식부터 LLM을 활용한 챗봇 서비스 구동 원리, AI의 성능 향상을 위해 SK하이닉스의 AiM이 어떻게 작용하는지 다뤘다.
다음날 이어진 실습에서는 SK하이닉스의 GDDR6-AiM이 여러 개 집적된 AiMX 가속기 카드를 살펴보고 PCIe 폼팩터에 맞춰 AiMX가 장착된 서버 환경 속에서 드라이버를 설치하는 등 하드웨어를 직접 구동하는 시간을 가졌다. 이후 SK하이닉스에서 개발한 AiMX SDK를 활용해 소프트웨어 실습을 진행했다.
김정빈 TL은 "PIM 개발을 위해서는 AiM 반도체 단계부터 시작해 하드웨어, 소프트웨어까지 전반에 걸쳐 높은 이해도를 갖춘 전문가가 필요하다"며 "이번 강의를 들은 수강생들 중 AiM 개발을 함께할 수 있는 PIM 전문가가 탄생하기를 진심으로 바란다"고 말했다.
신경철 TL은 "PIM이라는 주제가 생소하고 어려운 개념일 수 있는데 관심을 갖고 열정적으로 수강해 준 수강생분들께 감사의 마음을 전한다"며 "향후 개발될 온디바이스 AI용 AiM 제품들에 대해서도 강의할 기회가 있기를 바란다"고 전했다.
윤선영기자 sunnyday72@dt.co.kr
SK하이닉스가 대전광역시 카이스트(KAIST)에서 인공지능(AI)·반도체 관련 학과 학부생과 대학원생을 대상으로 'AiM(Accelerator-in-Memory) 이론 및 실습' 교육을 진행하고 있다. SK하이닉스 제공
