그래픽 처리 장치 (GPU), 데이터 처리 장치 (DPU), 신경망 처리 장치 (NPU) …. 인공 지능 (AI) 기술의 발달로 처리해야 할 데이터가 기하 급수적으로 증가하면서 등장한 시스템 반도체 다.
삼성 전자는 조금 다르게 접근했다. 메모리 반도체에 AI 프로세서를 탑재 해 중앙 처리 장치 (CPU)의 역할을 줄이는 혁신적인 기술을 개발했다. 삼성 전자가 17 일 발표 한 ‘HBM (고 대역폭 메모리) -PIM (프로세서 인 메모리)’이다. 최근에는 반도체 분야에서 가장 권위있는 학회 인 ISSCC에서도 관련 논문이 발표되었습니다.
이번에 소개 된 HBM-PIM은 기존 DRAM과 동일한 역할을합니다. 일반적으로 컴퓨터는 CPU가 DRAM에서 데이터를 검색하여 작동하고 저장 장치에 저장하는 ‘phone Neumann’구조로 작동합니다. 데이터가 CPU와 DRAM 사이를 이동할 때 처리 할 데이터가 급격히 증가하면 병목 현상이 발생합니다. 빅 데이터를 다루는 AI 분야에서는 전산 처리 속도가 느려진 원인으로 꼽힌다.
이러한 한계를 해결하기 위해 삼성 전자는 DRAM에서 데이터 연산을 미리 처리하여 CPU로 전송하는 기술을 개발하기 시작했습니다. 이를 위해 2018 년 개발 한 2 세대 HBM ‘Aquabolt’에 AI 프로세서를 탑재했다. HBM은 DRAM보다 훨씬 빠른 용량과 속도를 가진 슈퍼 컴퓨터 용 메모리 반도체 다. 초당 2.4Gb (기가비트)로 1 초에 61 개의 풀 HD 영화를 전송할 수 있습니다.
이것을 업그레이드 한 반도체는 HBM-PIM입니다. 삼성 전자는 HBM 내부의 각 뱅크 (스토리지 로직 유닛)에 AI 엔진을 설치하여 병렬 처리를 극대화했습니다. 기존 2 세대 HBM에 비해 성능이 2 배 이상 향상되고 시스템 에너지가 70 % 이상 절감됩니다.
기존 HBM 인터페이스를 지원하므로 하드웨어 나 소프트웨어를 변경하지 않고도 성능을 향상시킬 수있는 장점도 있습니다. 삼성 전자는 올 상반기 고객의 AI 가속기에 HBM-PIM을 탑재 해 테스트를 완료 할 계획이다.
반도체 업계에서는 삼성 전자가 AI 반도체 시장을 선도 할 기회를 마련한 것으로 평가된다. 한양 대학교 융합 전자 공학과 박재근 교수는“세계에서 HBM을 설계하고 양산 할 수있는 기업은 삼성 전자와 SK 하이닉스뿐”이라고 말했다.
삼성 전자는 메모리 반도체 용량과 성능을 높이면서 AI 프로세서로 연산을 수행 할 수있는 기술을 지속적으로 개발하고 있습니다.
이수빈 기자 [email protected]
Ⓒ 한경 닷컴은 무단 전재 및 재배포 금지