2024년 12월 29일
AI TRiSM (AI Trust, Risk and Security Management)
1. AI TRiSM의 개념 및 필요성
- AI TRiSM: AI Trust(신뢰), Risk(위험), and Security Management(보안 관리)를 의미
| 개념 | AI의 잠재적 위험 관리를 위해 설명 가능성, ModelOps, AI App 보안, 개인정보 보호를 통합한 보안 프레임워크 |
|---|---|
| 필요성 |  |
- 인공지능은 현대 사회에 많은 이점을 제공하지만 의사 결정의 불투명성, 윤리 문제, 프라이버시 침해 등 여러 문제점이 존재하므로 보안 프레임워크로 통합 관리 필요
- AI TRiSM은 AI 필수사항 및 위험 대응 핵심 기술로 전망되며, 가트너 2024년 10대 전략 기술에 이어 2025년 10대 전략 기술에도 AI 거버넌스 플랫폼으로 포함
2. AI TRiSM의 구성도 및 핵심 요소
(1) AI TRiSM의 구성도
 |
(2) AI TRiSM의 핵심 요소
| 구분 | 핵심 요소 | 역할 / 세부 기술 |
|---|---|---|
| 신뢰 구축 측면 | 설명가능성 | – 기능 중요도 분석 기반 AI 이상 징후 및 편향 감지 – XAI, 관측가능성, 지속적 모델 모니터링 |
| ModelOps | – AI 모델 개발 변경/문제 추적 관리 – AIOps, DevOps, ITSM 등 | |
| 보안 강화 측면 | AI App 보안 | – 모델 데이터 암호화, AI 시스템 접근 제어 – 데이터 암호화, CTEM, 제로트러스트 |
| 개인정보 보호 (Privacy) | – AI 시스템에 필요한 최소 개인 정보 수집 – 개인정보 비식별 조치, 노이즈 주입, 토큰화 |
- AI 위험을 통합 프레임워크로 관리 시 인력 부재, 기존 보안 체계와의 복잡성 증가 등 문제점이 있어 AI 보안 교육, 전담팀(TF) 구성 등 고려 필요
3. AI TRiSM의 문제점 및 고려사항
| 구분 | 문제점 | 고려사항 |
|---|---|---|
| 인식 부족 측면 | – AI 위험 과소평가 – 대응 계획 미수립 | – AI 위험 교육 실시 – 모범 사례 공유/전파 |
| 보안 기술 부족 측면 | – 보안 전문지식 부족 – 보안 조직/인력 부재 | – 기존 직원 추가 교육 – AI 보안 전문가 투입 |
| 통합 과제 측면 | – 기존 보안 프레임워크 수정 위한 복잡성 증가 | – 전담 부서 통합팀(TF) 구성하여 위험 관리 |
- AI TRiSM 기반 보안 프레임워크 통합 관리에 따른 단점보다 AI 위험 해소의 장점이 훨씬 크기 때문에 문제점을 극복하여 효과적으로 AI 위험 관리 필요
[참고]
- Gartner, what-it-takes-to-make-ai-safe-and-effective, 2023.5
- CHECK POINT, What Is AI TRiSM
About The Author
