1. AI TRiSM의 개념 및 필요성 AI TRiSM: AI Trust(신뢰), Risk(위험), and Security Management(보안 관리)를 의미 개념 AI의 잠재적 위험 관리를 위해 설명 가능성, ModelOps, AI App 보안, 개인정보 보호를 통합한 보안 프레임워크 필요성 인공지능은 현대 사회에 많은 이점을 제공하지만 의사 결정의 불투명성, 윤리 문제, 프라이버시 침해 등 여러 문제점이 존재하므로 보안 프레임워크로 통합 관리
1. 기계 고객 (Machine Customer)의 개념 및 특징 개념 특징 인간이나 다른 기계 대신 거래에 참여하여 자율적으로 협상하고 결제하여 상품과 서비스를 구매하는 지능형 시스템 – 알고리즘 기반 최적 의사결정 – 데이터 분석 기반 행동 패턴 결정 – 신규 데이터 기반 지속 학습 – 감정 및 충동 없는 논리적 구매 최근 센서 등 사물인터넷과 인공지능의 발전으로,
I. 이용자 중심의 지능정보사회를 위한 원칙의 배경과 목적 원칙의 배경 원칙의 목적 – 인간 의사결정 보조/대체 혁신 서비스 출현 (맞춤형 뉴스·콘텐츠 추천시스템, AI 스피커 등) – 공정하고 책임있는 AI 알고리즘 중요성 부각 – AI의 일상적 사용 지능정보사회 시대 대비 – 신기술의 위험으로부터 안전한 환경 조성 – 지능정보사회 구성원 공동 기본 원칙 제시 “이용자 중심의 지능정보사회를
I. 설명 가능한 인공지능, XAI 배경 – 인공지능 시스템에 대한 사회 수용/신뢰 우려 – 전문가 시스템 도출 결과 이해 불가 한계를 극복 개념 – 인공지능 시스템의 동작 및 최종 결과를 해석하여 결과물이 생성되는 과정을 설명해주는 기술 – 미 국방성 산하 DARPA에서 ‘17년부터 XAI 관련 학습 모델의 개발/테스트 프로젝트 추진 II. XAI 구현을 위한 기술 요소 기술 요소 개념도 기술 설명/세부 기술 기존 학습 모델 변형 – CNN 학습과정 역연산 – 특징 영향 요소