목록전체 글 (63)
코딩딩딩
- Recursion / IterationRecursion은 함수 자가 호출을 하면서 동일한 구조의 더 작은 문제를 해결하는 방식입니다. 재귀 함수 호출 시마다 Stack 메모리에 함수의 매개변수, 지역 변수 등이 쌓이기 시작하며, 종료 조건을 만나면 위에서부터 하나씩 제거되며 값을 반환합니다.재귀 함수가 무한 루프에 빠지지 않고 정상적으로 종료되기 위해서 종료 조건인 Base case가 필요하며, 문제를 더 작은 단위로 쪼개어 자기 자신을 호출하는 부분인 Recursive case가 필요합니다.Stack 메모리에 쌓이는 과정에서 재귀의 깊이가 너무 깊어지면 메모리 한계를 초과하는 Stack Overflow가 발생합니다. Recursion 사용 예시 -> DFS, Quick Sort, Merge Sort..
- Supervised / Unsupervised / Reinforcement Learning지도 학습은 데이터에 Label이 있을 때 사용하며, 과거의 데이터를 바탕으로 새로운 데이터에 대한 결과를 예측하는 Classification, Regression 작업에서 탁월합니다.비지도 학습은 Label이 없는 데이터셋에서 패턴을 찾을 때 주로 사용합니다. Clustering, 차원 축소, anomaly detection 등이 있습니다.강화 학습은 Agent가 Environment와 상호작용하며 Reward를 최대화하는 Policy를 학습하는 방식입니다.지도 학습과 강화 학습의 차이는 무엇인가요? -> 피드백의 형태입니다. 지도 학습은 ‘정답’이라는 즉각적인 피드백이 주어지지만, 강화 학습은 행동의 결과가 ..
1. PerceptronPerceptron은 여러 개의 신호를 입력받아 하나의 신호를 출력하는 형태이며, 인공 신경망의 최소 단위이다. 입력 값$x_1, x_2, ..., x_n$에 가중치 $w_1, w_2, ..., w_n$를 곱한 값에 bias를 더하여 가중합을 구한 후, Activation function을 통과하여 출력값 $y$ 을 계산한다. 기본적인 Perceptron에서는 Activation function으로 Step function이 사용된다.$$z = x_1 \cdot w_1 + x_2 \cdot w_2 + ... + x_n \cdot w_n + b$$$$z = \sum_{i=1}^{n} (x_i \cdot w_i) + b$$$$f(z) = \begin{cases} 1 & \text{i..
1. BERT - Bidirectional Encoder Representations from TransformersBERT는 양방향 인코더 트랜스포머로, 대규모 텍스트 데이터에 대해 사전 학습을 수행한 후, 특정 다운스트림 작업에 적용하는 자연어 처리 모델이다.- 양방향 학습: 문맥을 양방향으로 이해하며, 문장 구조와 의미를 깊이 파악할 수 있다. - 사전 학습 후 Fine-tuning: 대규모 텍스트 데이터로 사전 학습을 한 후, 관심 있는 작업에 맞춰 모델을 Fine-tuning 한다. - Masked Language Model: 입력 데이터의 일부를 마스킹하여 예측하는 방식으로 구현된다.BERT는 입력 데이터를 다음의 세 가지 임베딩으로 변환한다. - 토큰 임베딩: 단어 벡터를 생성하며, 후속 분..
1. 언어 명령 기반 영상 생성 트랜스포머 영상 생성 트랜스포머는 언어와 영상 데이터를 결합해 명령에 따라 영상을 생성하는 딥러닝 모델이다. 실제 환경이나 3D 시뮬레이션 등 다양한 상황에서 사용될 수 있다. • 언어 처리 부분: Language Encoder Transformer 기반 언어 모델을 사용해 텍스트 명령을 임베딩 벡터로 변환한다. • 시각 정보 처리 부분: Visual Encoder CNN과 Transformer를 결합해 입력된 영상 데이터를 feature로 변환한다. • 트랜스포머 인코더 Language Encoder와 Visual Encoder에서 나온 feature를 결합하여 트랜스포머 인코더 레이어를 통과시켜 융합된 Language-Visual feature를 추출한다...
1. Stable Diffusion잠복 확산 모델을 기반으로 하며, 사전 학습된 자동 인코더를 활용해 구조화된 잠재 공간에서 고품질 이미지를 효율적으로 생성한다.[1] VAE 인코딩: 압축 단계VAE 인코더는 픽셀 공간의 입력 이미지를 저 차원의 잠재 공간으로 압축하며, 이 과정에서 이미지의 필수적인 의미 정보를 캡처한다. [2] 포워드 확산: 노이즈 추가잠재 공간 표현에 가우시안 노이즈를 반복적으로 추가하여, 무작위성과 다양성을 부여한다. [3] 역확산: 노이즈 제거포워드 확산 과정과 반대 방향으로 동작하여, 잠재 공간에서 노이즈를 제거하고 깨끗하고 안정적인 잠재 표현을 생성한다. [4] VAE 디코딩: 복원 단계VAE 디코더는 정제된 잠재 표현을 픽셀 공간으로 변환하여 최종 이미지를 생성한다.2. ..