소프트웨어 안전성 (Software Safety)

1. SW 결함과 파급효과로 본 소프트웨어 안전의 중요성

• 전체 산업에서 정보통신 기술 융합으로 시스템이 복잡화, 대규모화 되고 소프트웨어 결함으로 인한 안전사고 및 파급효과가 커지고 있어 소프트웨어 안전이 중요시되고 있음

 

2. 소프트웨어 안전성의 개념 및 위험도(Risk)와의 관계

(1) 소프트웨어 안전성의 개념

SW 안전성	사고를 유발할 수 있는 SW 위험 요인으로부터 소프트웨어가 자유로운 상태 및 운영 과정에서 사고가 유발될 수 있는 위험 요인이 식별되고 대비되어 있는 상태
안전성 (Safety)	– 자연/인위적 위험 요인이 없거나 위험 요인에 대한 충분히 대비된 상태 – 피해 발생 위험 요인을 관리하여 위험이 수용 가능 수준 이하로 유지되는 상태
위험 요인 (Hazard)	– 사고를 유발할 수 있는 현존하거나 잠재적인 소프트웨어 위험 상태
위험도 (Risk)	– 위험 요인(Hazard)으로 인한 잠재적인 영향, 위험의 정도

(2) 소프트웨어 안전성과 위험도(Risk)의 관계

• 소프트웨어 안전성의 개념을 명확히 이해하기 위해 안전성(Safety), 위험 요인(Hazard), 위험도(Risk)와의 관계를 이해하여야 함
• ISO/IEC GUIDE 51에서 안전성(Safety)은 수용할 수 없는 위험(Risk)이 없는 상태로 정의하며, 수용 가능한 위험을 측정하기 위해 안전무결성수준(SIL)을 적용

 

3. 소프트웨어 안전, 보안, 품질의 비교

비교 항목	안전	보안	품질
개념	내부 위험 요인으로부터 시스템을 보호	불법/악의적 외부 위협으로부터 시스템 보호 활동	요구사항이 시스템에 정확히 구현되었는지 여부
보호대상 (관점)	사람 신체, 생명, 재산 피해 환경 등	시스템 제어권 상실/손실, 정보 유출	기능 수행 불가, 사용자 불편, 성능 지연
위험발생 원인	안전요구사항누락, 설계오류 등으로 인한 위험	접근제어 오류, 취약점 등 외부 침입으로 인한 위험	구현 오류, 부족한 검증 등으로 인한 위험
대상 시스템	오동작 시 안전사고로 연결되는 시스템	악의적 공격으로부터 보호가 필요한 내부 시스템	모든 형태의 소프트웨어
시스템 종류	– 항공/열차 관제시스템 – 지진감지 시스템	– IPS/IDS, Firewall – DDoS 대응 시스템	– DBMS, OS 소프트웨어 – 문서편집, 백업 SW

• 최근 안전은 보안을 포함하는 광의적 의미로 해석하기도 하지만 관점에 차이가 있으며, 안전과 품질은 상호 교집합 관계에 있어 안전이 충족되더라도 품질이 충족되는 것은 아님
• 소프트웨어 안전성을 평가 및 판단하고 수용 가능한 위험을 측정하기 위해 ISO/IEC Guide 51에 따른 기능 안전 표준 IEC 61508을 기반으로 한 다양한 소프트웨어 안전 관련 국제표준이 존재

 

4. 소프트웨어 안전 관련 국제표준

(1) 소프트웨어 안전 관련 국제표준 구성 체계

ISO/IEC Guide 51	IEC 61508

(2) 소프트웨어 안전 관련 국제표준

분야	국제표준	주요 내용
산업일반	IEC 61508	– 전기, 전자, 프로그램 가능한 전자시스템 기능안전 최상위 표준 – 기능 안전에 대한 SW 요구사항 및 안전무결성수준(SIL) 정의
의료기기	ISO 14971 / IEC 62304	– 전자 의료기기(MRI, CT 등) 소프트웨어 국제 표준 – 의료기기 탑재 SW 및 시스템 수명 전체 주기 활동, 증거물 정의
철도	IEC 62278 / IEC 62279	– RAMS의 기술적 내용과 철도시스템 관리 원칙 제공 국제 표준 (RAMS: Reliability, Availability, Maintainability, Safety)
자동차	ISO 26262	– 자동차 전자제어장치(ECU)의 오작동으로 인한 사고 및 인명손실 최소화
제조	IEC 62061 / IEC 61511	– 제조공정, 계측을 사용하는 전자제어시스템 기능안전 표준
항공	DO-178C	– 항공 SW 고려사항과 유무인기/설비 품질 인증을 위한 표준
로봇	ISO 13482 / ISO 10218	– 로봇 시스템의 안전 요구사항에 대한 개인/산업용 로봇 표준

• 자율 시스템(Autonomous Systems)에 대한 SW 안전 국제표준은 아직 정립되지 않은 상태이나, 제어권이 있는 SW에 있어 SW 안전에 대한 대책 마련이 필수적

 

5. 소프트웨어 안전성 확보 관련 산업 동향 및 추진 방향

산업 동향	SW 안전성 확보 추진 방향
– AI, Cloud 등 사람이 시스템 동작에 관여하는 비중 감소로 인한 SW 안전성이 더욱 부각	– SW 안전 확보를 염두에 둔 SW 및 시스템 개발, 운영, 유지보수를 핵심요소로 인식 필요
– 글로벌 기업들은 SW 안전을 고려한 국제 표준화 활동, 표준화 기반 SW 시장 선점 경쟁 중	– SW 안전 중요성 인식 전환 및 국제표준에서 요구하는 체계, 프로세스, 인력양성 투자 확대
– 국내 SW 안전 관련 기업 대부분이 소규모이며 전문인력, 기술역량 부재	– SW 안전 관련 기업 육성과 산업 성장에 집중 – SW 안전 가이드 보급, SW 안전 컨설팅 추진

• SW 안전은 SW 자체 복잡성과 타 분야와 SW간 융합이 가속화됨에 따라 국가 경쟁력을 좌우할 수 있으므로 SW 안전을 위한 국가적 노력과 기업의 지속적 관심 필요

 
[참고]

• 한국정보통신기술협회(TTA), 소프트웨어 안전 진단 가이드
• 정보통신산업진흥원(NIPA), SW안전 국제표준화 동향과 시사점