생성형 AI 윤리 가이드

1. 생성형 AI의 개념 및 윤리적 활용의 필요성

(1) 생성형 AI의 개념 및 파급효과

개념	파급 효과
대규모 데이터, 패턴 학습 기반 이용자 요구에 따라 텍스트, 이미지, 비디오, 음악, S/W 코드 등 새로운 결과물을 생성하는 인공지능 기술	– 외국어 문서 번역, 방대한 문서 요약 – 음성 회의 텍스트 기록, 회화 공부 – 소프트웨어 코딩, 작곡, 이미지 제작 – 연령/직업 무관 AI 활용으로 생산성 향상

• 생성형 AI는 텍스트(ChatGPT, Bard), 이미지(DALL·E 2, Midjourney, Stable Diffusion), 영상(D-ID, VCAT), 음성(클로바더빙, AI보이스 스튜디오), 글쓰기(Notion Al, Magic Write), 프로그래밍(GitHub Copilot, Tabnine) 등 다양한 분야에서 서비스 이용이 폭발적으로 증가

(2) 생성형 AI에 대한 윤리적 활용의 필요성

• 생성형 AI는 효율성, 생산성, 혁신성, 창조성 등 긍정적인 특성 외 모호한 저작권, 개인정보유출, 허위조작정보, 정보편향, 오남용 등 부정적인 문제를 내포하여 심각한 사회적 문제가 발생할 우려가 있으므로 생성형 AI 윤리 가이드를 통해 생성형 AI의 효과적 활용 필요

 

2. 생성형 AI의 효과적 활용을 위한 윤리 가이드

(1) 생성형 AI의 저작권 윤리 가이드

구분	가이드	가이드 설명
저작권 획득	AI 콘텐츠 저작권에는 인간의 창작 표현 추가 필요	– 생성형 AI로 자동 생성한 결과물은 저작권 보호대상이 아니지만, 결과물에 인간이 창작적 표현 추가 시 저작권 획득 및 보호 가능
AI 콘텐츠 재사용	단순 생성형 AI 콘텐츠는 재사용 가능	– 단순 생성형 AI 콘텐츠 자체는 저작권법 보호 대상이 아니며, 변경 없이 그대로 게시한 AI 콘텐츠는 재사용 가능
초상권	AI 생성 이미지, 영상의 초상권 문제에 유의	– 이미지, 영상 생성형 AI로 특정인으로 식별 가능한 초상 생성 시 초상권 침해에 해당
음성권	AI 음성 콘텐츠 생성 시 음성권 문제에 유의	– 원저작물의 작사·작곡 권리는 그대로 존재하므로 복제권,2차적저작물작성권 침해 문제 발생 가능하며, 온라인 공유 시 전송권 침해 소지 존재
저작권 보호	AI 생성 콘텐츠의 저작권 침해 행위 중단 요청 가능	– AI의 무단 콘텐츠 이용 시 원저작물의 복제권·전송권 등 저작권법상 권리 침해에 따른 AI 학습 데이터 제외 및 침해 행위 중단 요청 가능
출처 표기	생성형 AI 결과물 이용 시 출처 표기 권장	– 생성형 AI 결과물 이용 시 출처 표기에 대한 법적 근거는 없으나 출처 표기하는 것이 바람직함 – 콘텐츠가 생성형 AI로 작성되었음을 표시하는 것도 필요

(2) 생성형 AI의 책임성 윤리 가이드

구분	가이드	가이드 설명
과제 활용	AI 결과물 그대로 활용 지양	– 생성형 AI 결과물 그대로 활용 시 사고력 저하, 교수 업무 방해가 될 수 있으므로 지양하고, 과제/학습의 보조 도구로 활용 권장
시험 답안	AI의 답안 그대로 활용 지양	– 교수자와 생성형 AI 활용에 대해 사전 협의가 필요하며, 생성형 AI를 시험 답안 도출 도구로 활용하고 최종 답안은 학습자 직접 완성 권장
보고서 작성	보고서 작성 시 AI 결과물의 진위 확인, 정보 유출 유의	– 생성형 AI 활용 업무 자료 작성 시 자료의 진위 여부(환각 현상), 기밀 유출, 업무 자료의 책임 소재를 파악하고 최종 문서는 작성자 직접 작성
법적 책임	AI 활용에 따른 기밀 유출 법적 책임에 유의	– 생성형 AI에 입력된 회사 기밀, 개인정보는 삭제가 어려우며, API 통해 기밀 정보, 지식 재산, 소스 코드 등 유출 가능하므로 보호 조치 필요
상표권	AI 생성 로고 이미지는 저작권이 불분명하므로 유의	– 신제품 로고 등 상표권의 경우 생성형 AI 학습 대상의 상표권을 침해할 소지가 있으므로 완전히 다른 창작물로 인정되는 수준 필요

(3) 생성형 AI의 허위조작정보 윤리 가이드

구분	가이드	가이드 설명
허위정보 처벌	피해와 관계없이 가짜 뉴스 처벌 가능	– 개인/법인 명예 훼손 발생 또는 명예, 인격 손상 인지 시 관련 법령에 따른 형사 처벌 및 손해배상 청구 소송 가능
허위정보 신고	신고·상담센터에 신고 가능	– 한국언론진흥재단의 가짜 뉴스 피해 신고·상담센터, 한국인터넷자율정책기구의 가짜 뉴스 신고센터에 신고 가능
사기피해 구제	경찰청, 금감원 신고 및 확인원으로 사기 피해 구제 가능	– 경찰청, 금융감독원, 금융회사에 신고 및 경찰서 사건사고 확인원 발급 후 지급 정지 신청 금융회사에 제출하여 피해금 환급신청 가능
진위 여부 확인	생성형 AI 콘텐츠의 진위 여부 확인은 어려움	– 생성형 AI의 한계로 환각 현상(Hallucination) 발생 가능하며, 진위 여부는 확인이 어려우므로 여러 AI 병행 활용, 직접 검색 통해 확인 필요

(4) 생성형 AI의 개인정보·인격권 윤리 가이드

구분	가이드	가이드 설명
민감정보 노출	AI 학습 시 민감정보 유출에 유의	– 생성형 AI 학습 데이터는 다른 이용자들에 제공 가능하여 민감정보 노출 가능하므로 유의하고 생성형 AI의 데이터 제어 설정 반영 후 이용
AI 대화 저장	생성형 AI 대화 내용 저장으로 민감정보 입력 금지	– 생성형 AI 입력 내용은 해당 서비스 기업 서버에 저장되고, AI 학습 등에 재이용되므로 민감정보 입력 금지
생성형 AI 처벌	생성형 AI 처벌 불가	– 생성형 AI에 의한 명예 훼손 등 법적 처벌 필요 내용 발생 시 AI는 인간이 아니므로 법적 처벌 불가

(5) 생성형 AI의 오남용 윤리 가이드

구분	가이드	가이드 설명
의존성	AI에 대한 지나친 의존은 사고력 등 저하 우려로 주의 필요	– 생성형 AI에 대한 지나친 의존은 이용자의 문장력, 사고력, 문제 해결력 저하 우려가 있으므로 의도적으로 AI 의존 없이 업무 처리 필요
AI 인격 감정	생성형 AI에 대한 인격 감정에 주의 필요	– 생성형 AI는 허위 정보, 비밀 유지 불가 한계가 있고, 현실 세계의 사람과 다르므로 한계를 명심하고 각별히 주의 필요
신뢰성	생성형 AI 제시 답변에 대한 신뢰성 검증 필요	– 생성형 AI는 환각현상, 편향, 표절, 저작권법 위반 등 학문적 진실성 및 법률 위반 소지가 있으므로 여러 관점에서 검증 필요
전문가로 활용	생성형 AI는 전문가가 아니므로 유의하여 이용	– 생성형 AI의 답변, 콘텐츠는 학습 결과로 논리적 예측에 불과하므로 부정확/편향된 답변으로 손해 유발 가능하므로 주의 필요

 

3. 생성형 AI의 윤리적 활용 위한 고려사항 및 점검 내용

구분	고려사항	점검 내용
저작권	결과물 출처 표기	– 생성형 AI 결과물 활용 시 “생성형 AI 결과물” 출처 표기 여부 점검
권리침해	타인 권리 침해 금지	– 생성형 AI 활용 시 타인의 권리가 침해될 수 있는 텍스트, 오디오, 이미지 등 사용 여부 점검
명예훼손	명예훼손, 차별 금지	– 생성형 AI에 질문/정보 입력 시 특정인의 명예 훼손 및 차별 내용 포함 여부 점검
혐오표현	비난/혐오표현 금지	– 생성형 AI가 제시한 정보에 특정 대상 비난 혹은 가치관/주장에 대한 혐오 내용 포함 여부 점검
정보유출	민감정보 제공 금지	– 생성형 AI 활용 시 입력물에 개인정보, 기업비밀 등 민감정보 제공 여부 점검
허위조작정보	가짜/조작된 정보 입력 금지	– 생성형 AI로 가짜뉴스, 스팸 생성을 위해 부정확하거나 조작된 정보 입력 여부 점검
정보편향	편향적 내용 금지	– 생성형 AI가 제시한 정보에 편향적 내용 포함 여부 점검
환각현상	교차검증 수행	– 생성형 AI가 제공한 정보에 대해 사실 여부 확인을 위한 교차검증 수행 여부 점검
오남용	보조 수단으로 활용	– 생성형 AI는 보조적 수단으로 활용하였는지 점검
창의성	결과 재해석 및 생각 추가	– 생성형 AI가 제시한 결과를 재해석하거나 생각과 아이디어 추가 여부 점검

• 생성형 AI의 부작용을 방지하기 위해 상기 고려사항에 대해 점검하여 현명한 활용 필요

 
[참고]

• 한국지능정보사회진흥원(NIA), 생성형AI 윤리 가이드북