[르포]'똑똑한 HBM' 만드는 PIM…카이스트 '이곳'에서 나온다

[대전=이데일리 조민정 기자] “사물을 ‘전자레인지(microwave)’로 인지하고 있는데 앞에 탁상시계를 두니까 ‘아날로그 시계(analog clcok)’로 빠르게 인식하죠?”

카이스트 PIM반도체설계연구센터 연구팀이 차세대 인공지능(AI) 메모리로 주목받는 PIM(프로세싱 인 메모리) 기술을 시연한 모습이다. PIM은 메모리 반도체에 연산 기능을 더한 지능형 메모리다. 연구팀이 개발한 ‘다이나플라지아(DynaPlasia)’를 적용하면 일반 NPU(신경망처리장치) 대비 에너지 효율은 4배 이상, 성능은 2배 대폭 향상된다. 카메라를 사람 눈처럼 만든 데모 제품은 물체를 보자마자 빠르게 인지하며 최고 성능을 선보였다.

카이스트 PIM반도체설계연구센터 전경.(사진=조민정 기자)

카이스트 PIM반도체설계연구센터 연구팀이 개발한 ‘다이나플라지아(DynaPlasia)’를 적용해 만든 카메라가 사물을 인지하고 있다.(영상=조민정 기자)

첨단기술 내놓는 산실…‘저전력 고성능’ 연구

이데일리가 지난 8일 찾은 대전 카이스트 정문에서 도보로 약 10분 떨어진 KI빌딩엔 바이오융합연구소, 로보틱스연구소, 나노융합연구소, IT융합연구소, 헬스사이언스연구소 등이 한데 모여 있다. 모두 미래 먹거리로 점쳐진 첨단산업이다. KI빌딩이 한국뿐 아니라 세계를 놀라게 할 첨단 기술들을 탄생시키는 ‘연구 산실’인 셈이다.

IT융합연구소 산하 PIM반도체설계연구센터는 석·박사 학생 20~25명, 담당교수 3명을 비롯해 삼성전자에서 파견 나온 현직자와 직원 등이 함께 연구하고 있다. PIM센터는 AI 반도체 연구개발(R&D)을 위해 정부 지원을 받아 2022년 설립됐다. 이곳에선 누구나 빨리 PIM을 활용한 반도체를 만들도록 지원하고 NPU의 응용 등 ‘저전력 고성능’을 위한 전반적인 AI 기술을 연구한다.

PIM은 메모리 반도체의 병목현상을 해결해 ‘전력 소비’ 측면에서 주목받는 차세대 메모리다. 고대역폭메모리(HBM)는 메모리를 ‘저장’하는 기능인데 HBM에 PIM 기술을 적용한 HBM-PIM은 저장도 하고 ‘연산’도 할 수 있다. 최근 AI로 정보량이 많아진 탓에 메모리가 CPU에 정보를 전송하며 병목현상이 발생하고 전력 소모량도 커지고 있다. HBM 등 메모리가 자체적으로 연산까지 한다면 두 가지 문제를 모두 해결한다는 장점이 있다.

카이스트 PIM반도체설계연구센터에 들어서자마자 보이는 데모(시연)를 위한 공간.(사진=조민정 기자)

센터에 들어서자마자 보이는 건 연구팀이 개발한 기술을 직접 시연하도록 구성한 데모 룸이다. 2D 사진을 찍으면 3D로 구현하는 카메라부터 주변 공간을 인식한 뒤 스스로 빈 공간까지 학습해 조감도를 만드는 카메라까지 다양하다. 모두 연구개발 단계로 일상생활에선 공개되지 않은 기술들이다. 뉴로모픽컴퓨팅으로 챗GPT 같은 LLM(대규모언어모델)을 구동하는 기술은 엔비디아의 A100에 비해 625배 뛰어난 전력 효율을 자랑했다.

카메라가 방 안을 돌며 스스로 주변 공간을 인식해 조감도를 만들고 있다. 사각지대로 인식하지 못한 빈 공간을 스스로 학습해 채우고 새롭게 생긴 물체까지 인지할 수 있다는 점이 특징이다.(영상=조민정 기자)

최신 PIM ‘다이아몬드’…공정까지 고려했다

연구팀의 최근 눈에 띈 성과는 삼성전자와 협력해 개발한 새로운 PIM인 ‘다이아몬드(Dyamond)’다. 반도체 분야에서 가장 권위 있는 VSLI 심포지엄에서 지난해 공개했으며 현재 연구용 반도체 칩으로 구현하는 데까지 나아갔다. 학계의 D램 PIM 중 메모리 밀도와 에너지 효율 측면에서 최고 수준의 성능을 달성한 메모리다. 기존 최고 성능 다이나플라지아보다 메모리 밀도는 8배, 메모리 용량은 3배 개선됐다.

다이아몬드 논문 주저자인 홍성연 박사과정 1년 차 학생은 “낮은 비트 영역에선 에너지 효율을 극대화하고 높은 비트에선 연산 정확도를 높이는 방식의 다중적인 최적화를 최초로 도입했다”며 “높은 면적 효율로 다양한 AI 연산을 지원한다”고 설명했다. 유회준 카이스트 PIM반도체설계연구센터장(전기·전자공학과 교수)은 “다이나플라지아는 기존 D램과 공정이 다르다는 문제가 있었는데 다이아몬드에서 이를 개선하며 완벽하게 공정을 맞췄다”고 강조했다.

카이스트 PIM반도체설계연구센터 연구팀이 삼성전자와 공동개발한 PIM 메모리 ‘다이아몬드’(왼쪽)로 ‘다이나플라지아(DynaPlasia)’의 차세대 라인업이다.(사진=조민정 기자)

카이스트 PIM반도체설계연구센터 연구팀이 개발한 PIM 메모리인 ‘다이나플라지아(DynaPlasia)’.(사진=조민정 기자)