1. AI 컴퓨팅 환경의 변화 동향과 도전 과제 시스템 자원 모니터링 기술은 최근 AI 프레임워크 수준 프로파일링, 컨테이너와 가상화 계층의 모니터링 및 클라우드 전반 통합 지표 수집 등 빠르게 발전 중 2. 이종 AI 반도체 기반 컴퓨팅 시스템 구성 (1) 이종 AI 반도체 기반 컴퓨팅 시스템 구성도 (2) 이종 컴퓨팅 환경 구성을 위한 AI
1. 메모리 중심 컴퓨팅 (Memory-Centric Computing) 개요 개념 대용량 데이터 고속/저지연 처리를 위해 RoCE, HBM 등 메모리 반도체가 패브릭 연결망 통해 저장, 연산 역할을 담당하는 차세대 컴퓨팅 아키텍처 필요성 현대 컴퓨팅 패러다임은 인공지능 서비스 등 대용량 데이터 처리가 필요한 컴퓨팅으로 변화되고 있어, RoCE, HBM, CXL 등 메모리 용량 및 대역폭 한계를 극복하는 메모리 중심 컴퓨팅
1. PIM (Processing-in-Memory)의 개요 (1) PIM의 개념 및 필요성 개념 필요성 CPU-메모리 병목으로 인한 작업 처리 성능 저하 극복 위해 메모리 칩 내 연산기를 배치하여 데이터 이동 최소화 기반 작업 처리 성능을 향상시키는 메모리 반도체 – 폰노이만 아키텍처 한계 극복 – 인공지능, 빅데이터 실시간 처리 – 데이터 병목 현상 최소화 – 메모리 내 연산으로 성능