메모리 계층 구조 (Memory Hierarchy)

메모리 계층 구조 (Memory Hierarchy)

속도·용량·비용이 다른 여러 계층의 메모리를 조합하여 빠른 평균 접근 시간과 큰 용량을 동시에 제공하는 컴퓨터 시스템 설계 원리

목적: 성능-비용 균형, 지역성 활용, 평균 접근시간 단축, 대용량 지원

특징: 계층적 구조, 지역성 원리, 자동 관리, 투명성

계층 구조: 레지스터(~1ns) → L1 캐시(~1ns) → L2 캐시(~5ns) → L3 캐시(~20ns) → DRAM(~100ns) → SSD(~100μs) → HDD(~10ms)

지역성 원리

• •시간적 지역성(Temporal): 최근 접근한 데이터는 곧 다시 접근
• •공간적 지역성(Spatial): 인접한 데이터는 함께 접근
• •순차적 지역성(Sequential): 메모리는 순차적으로 접근

성능지표

• •평균 접근시간(AMAT) = Hit Time + Miss Rate × Miss Penalty
• •Hit Rate = Hit / (Hit + Miss)
• •Miss Rate = 1 - Hit Rate

장점: 높은 성능, 대용량, 비용 효율, 투명한 관리

적용사례: 모든 현대 CPU, 서버, 모바일, 임베디드

비교: 레지스터(1ns/KB/최고가) vs 캐시(수ns/MB/고가) vs DRAM(100ns/GB/중가) vs SSD(100μs/TB/저가)

연관: 캐시 메모리, 지역성, DRAM, SSD, 가상메모리