1. AI 데이터센터 (AI DC, AI Datacenter)의 개요 (1) AI 데이터센터의 개념 학습, 배포, 추론 등 AI 특화 서비스 제공을 위해 GPU 등 AI 가속기 중심의 초고밀도 병렬 연산과 고대역폭/초저지연 패브릭, 액체 냉각 시스템 등 고성능 IT 인프라 기반 설비를 갖춘 데이터센터 (2) 일반 데이터센터와 AI 데이터센터의 비교 비교 항목 일반 데이터센터 AI 데이터센터 핵심
1. AI 모델 연산 최적화 프로세서, NPU의 개념 및 특징 (1) NPU (Neural Processing Unit)의 개념 개념 AI 데이터 고속 처리 위해 MAC 배열, 양자화 기반 딥러닝 연산에 최적화된 신경망 처리 장치 특징 문제 분해 및 병렬 처리 – 문제를 구성 요소로 분해하여 멀티태스킹 문제 해결하고 여러 신경망 연산을 동시 실행 저정밀도 기반 에너지 효율화
1. 구리 배선에서 빛의 시대로, CPO (Co-Packaged Optics) (1) CPO의 등장 배경, 개념 및 특징 등장 배경 개념 네트워크 스위칭 연산 칩과 광학 소자를 하나의 기판에 수용하는 통합 패키징 기술 특징 획기적인 저전력 소비 (Low Power Consumption) – 전기 신호 이동 거리를 수 밀리미터 단위로 단축 – 신호 증폭, 노이즈 필터 등 고속신호 부품 최소화
1. 네오클라우드 (Neocloud)의 개념 및 특징 (1) 네오클라우드의 개념 AI 및 HPC에 특화되어 베어메탈 기반 RDMA, 스케일러블 유닛, 레일 최적화 GPU 중심의 AI 네이티브 클라우드 인프라 (2) 네오클라우드의 특징 분야 특징 세부 내용 Compute 베어메탈 기반의 GPU 리소스 극대화 – Bare-Metal 또는 컨테이너 Pass-through를 채택하여, 고성능 GPU 연산 능력을 100% 활용 보장 Network RDMA 기반의
1. 비휘발성 HBM, HBF (High Bandwidth Flash)의 개요 개념 특징 HBM 용량 및 휘발성 한계 극복 위해 3D 스택형 낸드플래시를 TSV, 로직 다이, CBA 기반 병렬 연결하는 고대역폭 비휘발성 메모리 기술 – 고대역폭 낸드플래시 – HBM 대비 초대용량 – AI 추론 특화 메모리 – 비휘발성 고속 백엔드 낸드 특성상 DRAM/HBM 대비 8~16배 이상 큰 용량을
1. 해시 페이지 테이블 (Hashed Page Table)의 개요 개념 페이지 테이블 크기 축소 위해 페이지 번호에 해시 함수 적용 및 연결 리스트를 참조하고 할당하는 메모리 관리 기법 특징 페이지 번호에 해시 함수 적용 – 페이지 번호에 해시 함수를 적용하여 페이지 테이블 크기 축소 가능 충돌 해결 위한 연결 리스트 – 동일한 위치에서 충돌이 발생하며, 이를
1. 초고속 인터페이스, CXL (Compute Express Link) 개요 개념 CPU-디바이스 간 초고속 데이터전송 위해 PCIe에 구성되어 CXL.io/cache/mem 프로토콜 기반 링크를 제공하는 저지연 고속 인터커넥트 개방형 표준 기술 특징 초 저지연 고속 링크 – 데이터 전송 지연 감소 및 초고속 전송 RDMA 성능 개선 – 원격 호스트 내 메모리 직접 접근 개선 DRAM 용량 확장 –
1. 메모리 중심 컴퓨팅 (Memory-Centric Computing) 개요 개념 대용량 데이터 고속/저지연 처리를 위해 RoCE, HBM 등 메모리 반도체가 패브릭 연결망 통해 저장, 연산 역할을 담당하는 차세대 컴퓨팅 아키텍처 필요성 현대 컴퓨팅 패러다임은 인공지능 서비스 등 대용량 데이터 처리가 필요한 컴퓨팅으로 변화되고 있어, RoCE, HBM, CXL 등 메모리 용량 및 대역폭 한계를 극복하는 메모리 중심 컴퓨팅
1. UPS (Uninterruptible Power Supply)의 개요 개념 정전에 대비하여 정류기, 인버터, 배터리를 통해 시스템에 연속으로 전원을 공급하는 장치 특징 무정전 전원 공급 – 정전 시 즉각 배터리 전원을 공급하여 전원 중단 없이 전원 공급 전원 품질 개선 – 입력 전원의 서지/노이즈 완화, 안정된 전압 제공, 장비 손상 방지 확장성과 모듈성 – 용량 확장과 유지보수 시
1. 정보시스템 하드웨어 규모산정의 개요 (1) 정보시스템 하드웨어 규모산정의 개념 구분 정의 관점 시간성 용량관리 업무 요구사항을 충족시키기 위한 현재와 미래의 용량계획을 수립하고 비용(Cost)과 용량(Capacity)의 균형을 맞추는 것 조직 지속적 용량계획 개략적인 시스템 아키텍처와 응용 업무를 기반으로 시스템에 요구되는 성능 요구사항과 성능을 결정하기 위한 계획 조직, 시스템 지속적 규모산정 기본적인 용량과 성능 요구사항이 제시되었을 때,