AI 공격
프롬프트 인젝션 (Prompt Injection)
1. 프롬프트 인젝션 (Prompt Injection)의 개념 및 위험성 개념 위험성 생성형 AI에 악의적 명령(프롬프트)을 주입하여 모델이 의도하지 않은 동작을 수행하도록…
Evasion Attack
1. Security for AI, Evasion Attack 인공신경망 인식 시 AI 모델이 원래 Class가 아닌 다른 Class로 인식하게 하는 입력 데이터…
1. 프롬프트 인젝션 (Prompt Injection)의 개념 및 위험성 개념 위험성 생성형 AI에 악의적 명령(프롬프트)을 주입하여 모델이 의도하지 않은 동작을 수행하도록…
1. Security for AI, Evasion Attack 인공신경망 인식 시 AI 모델이 원래 Class가 아닌 다른 Class로 인식하게 하는 입력 데이터…