코딩딩딩

1. 인코더 - 디코더 인코더는 입력 데이터를 임베딩으로 변환하여 고차원적 표현을 생성하고, 디코더는 이를 기반으로 문맥에 맞는 출력을 생성한다.  • 영상 인코더 입력 영상에서 필수적인 시각적 특징을 추출하여 임베딩 또는 잠재 표현이라 불리는 고정된 크기의 벡터로 변환한다.  CNN, ViT가 주로 사용된다.  • 언어 인코더 텍스트를 숫자 표현으로 변환하고 문맥 정보를 캡처하여 고정된 크기의 임베딩 벡터를 생성한다. 과거에는 LSTM, GRU, RNN이 사용되었으나, 현재는 Self-Attention 기반 BERT, Transformers와 같은 모델이 주로 사용된다. • 영상 디코더 고정된 크기의 임베딩 벡터를 입력으로 받아 전체 해상도 이미지를 생성한다. 과거에는 CNN, VAE, GAN이 주로 ..

1. 재귀 신경망 ((Recurrent Neural Network, RNN))- 기본 설명재귀 신경망은 순차적 데이터나 시계열 데이터를 처리하기 위해 설계된 신경망 모델이다. 입력층, 은닉층, 출력층으로 구성되며, 은닉층에서는 이전 데이터와 현재 데이터를 저장하여 순차적인 관계를 학습한다. ⦁ 단방향 RNN: 과거정보에만 접근하여 다음에 출력할 토큰을 예측한다. ⦁ 양방향 RNN: 과거 정보와 미래 정보를 모두 활용하여 예측 정확도를 높인다. - 문제점재귀신경망은 다음과 같은 한계를 갖는다. ⦁ 장기적 의존성 문제: 긴 시퀀스에서 정보를 유지하기 어려워 학습이 불안정하다.⦁ Gradient 소실 및 폭발: 역전파 시 기울기가 너무 작거나 커지는 문제가 발생한다. 이를 해결하기 위해 다음과 같은 대안 모델..