[태그:] AI 데이터센터

CXL (Compute Express Link)

1. 초고속 인터페이스, CXL (Compute Express Link) 개요 개념 CPU-디바이스 간 초고속 데이터전송 위해 PCIe에 구성되어 CXL.io/cache/mem 프로토콜 기반 링크를 제공하는 저지연 고속 인터커넥트 개방형 표준 기술 특징 초 저지연 고속 링크 – 데이터 전송 지연 감소 및 초고속 전송 RDMA 성능 개선 – 원격 호스트 내 메모리 직접 접근 개선 DRAM 용량 확장 –

메모리 중심 컴퓨팅(Memory-Centric Computing)

1. 메모리 중심 컴퓨팅 (Memory-Centric Computing) 개요 개념 대용량 데이터 고속/저지연 처리를 위해 RoCE, HBM 등 메모리 반도체가 패브릭 연결망 통해 저장, 연산 역할을 담당하는 차세대 컴퓨팅 아키텍처 필요성 현대 컴퓨팅 패러다임은 인공지능 서비스 등 대용량 데이터 처리가 필요한 컴퓨팅으로 변화되고 있어, RoCE, HBM, CXL 등 메모리 용량 및 대역폭 한계를 극복하는 메모리 중심 컴퓨팅

RoCE (RDMA over Converged Ethernet)

1. RoCE (RDMA over Converged Ethernet)의 개념/특징 개념 초고속 데이터 전송을 위해 OS 커널을 경유하지 않고 이더넷 네트워크를 통해 원격 호스트 내 메모리 읽기/쓰기를 직접 수행하는 RDMA 기반 네트워크 프로토콜 특징 원격 호스트의 메모리에 직접 데이터 읽기/쓰기 – 로컬 Application에서 멀리 떨어진 원격 호스트의 메모리에 직접 데이터 읽기/쓰기 가능 App 간 데이터 직접 전송 –

데이터센터 액체 냉각 (Datacenter Liquid Cooling)

1. 데이터센터 운영 환경 변화와 Rack 고집적화 영향 (1) 데이터센터 운영 환경 변화 비교 항목 기존 컴퓨팅 환경 고집적화 컴퓨팅 환경 사용 환경 표준 처리 성능과 밀도를 갖춘 기존 중앙 처리 서버와 적당한 처리 요구에 따른 범용 워크로드 GPU 및 Gen. AI 지원 서버를 활용한 계산 용량 가속화로 리소스 집약적 병렬 워크로드 워크로드 사례 데이터