1. AI 데이터센터 (AI DC, AI Datacenter)의 개요 (1) AI 데이터센터의 개념 학습, 배포, 추론 등 AI 특화 서비스 제공을 위해 GPU 등 AI 가속기 중심의 초고밀도 병렬 연산과 고대역폭/초저지연 패브릭, 액체 냉각 시스템 등 고성능 IT 인프라 기반 설비를 갖춘 데이터센터 (2) 일반 데이터센터와 AI 데이터센터의 비교 비교 항목 일반 데이터센터 AI 데이터센터 핵심
1. 초고속 인터페이스, CXL (Compute Express Link) 개요 개념 CPU-디바이스 간 초고속 데이터전송 위해 PCIe에 구성되어 CXL.io/cache/mem 프로토콜 기반 링크를 제공하는 저지연 고속 인터커넥트 개방형 표준 기술 특징 초 저지연 고속 링크 – 데이터 전송 지연 감소 및 초고속 전송 RDMA 성능 개선 – 원격 호스트 내 메모리 직접 접근 개선 DRAM 용량 확장 –
1. 메모리 중심 컴퓨팅 (Memory-Centric Computing) 개요 개념 대용량 데이터 고속/저지연 처리를 위해 RoCE, HBM 등 메모리 반도체가 패브릭 연결망 통해 저장, 연산 역할을 담당하는 차세대 컴퓨팅 아키텍처 필요성 현대 컴퓨팅 패러다임은 인공지능 서비스 등 대용량 데이터 처리가 필요한 컴퓨팅으로 변화되고 있어, RoCE, HBM, CXL 등 메모리 용량 및 대역폭 한계를 극복하는 메모리 중심 컴퓨팅