메모리 중심 컴퓨팅(Memory-Centric Computing)

1. 메모리 중심 컴퓨팅 (Memory-Centric Computing) 개요

개념대용량 데이터 고속/저지연 처리를 위해 RoCE, HBM 등 메모리 반도체가 패브릭 연결망 통해 저장, 연산 역할을 담당하는 차세대 컴퓨팅 아키텍처
필요성
  • 현대 컴퓨팅 패러다임은 인공지능 서비스 등 대용량 데이터 처리가 필요한 컴퓨팅으로 변화되고 있어, RoCE, HBM, CXL 등 메모리 용량 및 대역폭 한계를 극복하는 메모리 중심 컴퓨팅 활용이 필수

 

2. 메모리 중심 컴퓨팅의 아키텍처 및 핵심 기술

(1) 고속 패브릭 연결망 기반 메모리 중심 컴퓨팅의 아키텍처

  • Infiniband, RoCE 기반 시스템 내 메모리 직접 접근, 고속/저지연 처리
  • HBM, SCM, PIM, CXL 기반 대용량 데이터를 메모리풀에서 공유

(2) 메모리 중심 컴퓨팅의 핵심 기술

구분핵심 기술동작 방식
서버 내
메모리
직접 접근
측면
Infiniband– OS 커널 미경유, 전용망으로 원격 서버 메모리 직접 접근
– HCA, TCA, 전용 PCI 및 광 채널 인터페이스
RoCE (RDMA over Converged Ethernet)– OS 커널 미경유, 이더넷 기반 원격 서버 메모리 직접 접근
– RNIC, QoS, DCB, PFC, ETS, QCN, ECN
메모리
대역폭
확보 측면
HBM (High Bandwidth Memory)– DRAM 적층, TSV 배선 기반 데이터 이동 병목 해소
– TSV, DRAM/Base die, Micro Bump, SoC, PHY
SCM (Storage Class Memory)– 비휘발성, 저지연 및 고속 데이터 쓰기/읽기 지원
FeRAM, ReRAM, PRAM, STT-MRAM
자체 연산,
공유 메모리
연결 측면
PIM (Processing-in-Memory)– 메모리 내 연산기 배치, 프로세서 대신 데이터 처리
– PIM Core, DMA, TSV Interface, BUS
CXL (Compute Express Link)– 다양한 프로세서 및 디바이스가 공유 메모리에 연결
– PCIe, SerDes, 임피던스 매칭, 클럭 데이터 복구
  • 메모리 중심 컴퓨팅은 고속 패브릭 연결망과 HBM, ASIC 등 반도체 기술을 통해 AI 컴퓨팅·클라우드·엣지 등 ICT 환경의 핵심이 될 것으로 전망

 

3. 메모리 중심 컴퓨팅 기술 및 시장 선도 전략

구분전략달성 방안
기술 선도
전략
메모리 반도체
라인업 다양화
– 차세대 HBM 조기 상용화 및 라인업 지속 확장
– TSV, WLP 등 첨단 패키징, 신소재 기술 투자
PIM, CXL 등 AI DC 맞춤형 제품군 개발
S/W-H/W
통합/최적화
– 메모리 패브릭 관련 하드웨어, 소프트웨어 통합 연구/개발
– 메모리 자원 동적 할당, 무결성/보안 제어 기술 통합
– 파운드리, AI 가속기 협업 기반 최적화 패키지 개발
시장 선도
전략
메모리 생태계
글로벌 협력
– AI 반도체, 자율주행 선도 기업과 조기 맞춤형 공급 계약
– 글로벌 기업과 AI DC 구축 등 전략적 공동 프로젝트
– 현지 생산기지, 거점 설립 등 공급망 네트워크 강화
메모리 표준
/주도권 선점
HBM, CXL 등 차세대 메모리 표준화 의장국 활동
– AI DC, 모바일 SoC 등 맞춤형 솔루션 시장 선점
– 메모리 포함 전체 플랫폼을 지원하는 통합 가치 제공
  • 메모리 센트릭 컴퓨팅 시장 초기 HBM 등 메모리 반도체 시장 점유율을 강화, 중장기적으로 표준 선점과 메모리 생태계 협력을 통해 기술 및 시장 선도 필요

 
[참고]

  • 한국전자통신연구원(ETRI), 고속 패브릭 연결망 기반 메모리 중심 컴퓨팅 기술 동향, 2024.10

콘텐츠 사용 시 출처 표기 부탁 드리고, 댓글은 큰 힘이 됩니다^^