PIM (Processing-in-Memory)

PIM (Processing-in-Memory)

메모리 내부 또는 근처에 연산 유닛을 배치하여 데이터 이동 없이 메모리에서 직접 연산을 수행하는 아키텍처로, 폰 노이만 병목을 해결하고 대역폭과 에너지 효율 향상

목적: 메모리 대역폭 병목 해결, 데이터 이동 최소화, 에너지 효율, AI/빅데이터 가속

특징: Near-Data Computing, 메모리 내 연산, 높은 대역폭, 낮은 에너지

폰 노이만 병목(Memory Wall): CPU-메모리 간 데이터 이동이 성능 병목, 메모리 대역폭 한계

PIM 유형

• •Near-Memory Processing: 메모리 컨트롤러 또는 로직 다이에 연산 유닛 배치
• •In-Memory Processing: 메모리 셀 자체에서 연산(아날로그/디지털)
• •Processing-using-Memory: 메모리 셀의 물리적 특성 활용(ReRAM, PCM)

HBM-PIM: HBM 내부에 SIMD 연산 유닛 배치, 삼성/SK하이닉스 개발

주요 연산: 벡터 연산, 행렬 곱셈, 데이터 필터링, 집계 연산

장점: 대역폭 수십 배 향상, 에너지 소비 90% 감소, 대규모 병렬 처리

단점: 프로그래밍 모델 변화, 제한된 연산 유형, 생태계 미성숙

적용사례: AI 학습/추론, 데이터베이스, 그래프 처리, HPC

비교: PIM(메모리내연산/대역폭해결) vs GPU(외부연산/대역폭제한) vs NPU(AI특화)

연관: HBM, 메모리 벽, AI 가속기, 폰 노이만 아키텍처, Near-Data Computing