[태그:] 대규모 언어모델

어텐션 메커니즘 (Attention Mechanism)

1. 어텐션 메커니즘의 개념 및 필요성 개념 seq2seq의 경사감소 소멸(Gradient Descent Vanishing) 등 RNN 모델의 문제 해결을 위해 출력 단어 예측 시점 마다 입력 시퀀스의 단어 가중치를 계산하여 정확도 감소를 보정하는 메커니즘 필요성 어텐션 메커니즘에서 어텐션 함수는 Softmax, Sigmoid, ReLu 함수 등 활성화 함수와 함께 사용하여 입력 시퀀스의 각 단어 가중치 계산 및 예측 벡터

안전한 생성형 인공지능 서비스 구축 방안

1. 안전한 생성형 인공지능 서비스 구축 개요 인공지능 모델은 의료, 복지, 금융, 교육 등 다양한 분야에서 활용될 수 있으며, 대국민 서비스 또는 각급 기관의 효율적 업무를 위한 내부 업무 시스템 등의 형태로 구축될 수 있음 생성형 인공지능(Generative AI) 보안 위협에 대비하여 ChatGPT 등 생성형 대규모 언어모델 기반 안전한 서비스를 구축/활용하기 위해 AI 모델 도입/활용 시

생성형 인공지능(Generative AI) 보안 위협

1. 생성형 인공지능(Generative AI)의 개념 이미지, 비디오, 오디오, 텍스트 등을 포함한 대량의 데이터를 학습하여 사람과 유사한 방식으로 문맥과 의미를 이해하고 새로운 데이터를 자동으로 생성해주는 인공지능 기술 기존 AI 기술이 회귀(regression), 분류(classification), 군집화(clustering) 등 판별적 인공지능(Discriminative AI) 기술이었다면, 생성형 AI 기술은 이용자가 요구한 질문이나 과제를 해결하기 위해 주어진 데이터를 기반으로 패턴과 규칙을 학습하고 새로운 컨텐츠를 생성