서론: 인공지능 연산 패러다임의 전환과 메모리 병목 현상의 본질현대의 컴퓨팅 환경은 과거 수십 년간 고수해 온 폰 노이만(von Neumann) 아키텍처의 근본적인 한계에 직면해 있다. 연산 장치(Processor)와 기억 장치(Memory)가 물리적으로 분리되어 있는 이 구조는, 데이터가 두 장치 사이를 끊임없이 이동해야만 연산이 이루어지는 태생적 비효율성을 내포한다. 특히 대규모 언어 모델(LLM)과 같은 거대 인공지능 모델이 등장하면서 이러한 비효율성은 이른바 '메모리 벽(Memory Wall)'이라는 치명적인 물리적 병목 현상으로 발현되었다. 최신 AI 데이터센터에서 범용 그래픽 처리 장치(GPU)는 실제 신경망 출력을 계산하는 데 전력을 소비하기보다는, 고대역폭 메모리(HBM)에서 연산 코어로 ..