1. perceptron → linear layer → MLP → activation function → forward pass 로 신경망의 구성을 배운다.
loss function → gradient descent → chain rule → back propagation 로 신경망이 학습하는 방법을 regression 예시로 공부한다.
computational graph → automatic differentiation 로 실제 backpropagation 연산이 어떻게 수행되는지 배운다.
SGD → Momentum → Adam 으로 optimizer에 대해 배운다.
Overfitting → train/validate/test 로 실제 학습 구성방법에 대해 배운다. |
| 2회차 | CNN 기반 컴퓨터 비전 | 1. image tensor → channel → convolution → kernel → feature map → stride → padding → pooling → receptive field으로 합성곱의 주요 구성 요소들을 배우고 이미지가 CNN 아키텍쳐에서 어떻게 처리되는지 classification 예시로 기본 원리를 배운다.
image classification → semantic segmentation → instance segmentation으로 컴퓨터 비전 과제별 입력과 출력의 차이를 공부한다.
CNN backbone → residual connection → encoder-decoder → skip connection → ResNet, U-Net으로 CNN을 더 깊게 다루는 아키텍쳐를 공부한다.
transfer learning 을 통해 Pretraining과 재사용의 개념을 공부한다. |
| 3회차 | 시퀀스 모델: RNN, LSTM, Seq2Seq | 1. sequence → embedding → hidden state → parameter sharing → RNN cell → RNN unfolding으로 순차 데이터를 시간축을 따라 처리하는 기본 방법을 배운다.
BPTT → vanishing gradient → exploding gradient로 RNN이 시퀀스에서 어떻게 학습되는지 이해하고, 장기 의존성에 관한 문제점을 공부한다.
LSTM의 cell state들 input, forget, ouput gate를 통해 장기 기억을 유지하는 원리를 배운다.
many-to-one → one-to-many → many-to-many 로 분류, 생성, 레이블링 등 목적에 따라 시퀀스의 입력과 출력 구조가 어떻게 달라지는지 배운다.
encoder–decoder → Seq2Seq → fixed-length context vector로 입력 시퀀스를 하나의 표현으로 인코딩하고 출력 시퀀스를만드는 방식과 한계를 배운다.
autoregressive decoding과 teacher forcing으로 출력과 학습 방식에 대해 공부한다. |
| 4회차 | Transformer와 대규모 언어모델 | 1. tokenization → token embedding으로 자연어 문장을 모델이 처리할 수 있는 숫자 표현으로 바꾸는 방법을 배운다.
query → key → value → scaled dot-product attention으로 토큰들이 서로의 정보를 참고하는 방법을 공부한다.
self-attention → cross-attention → multi-head attention으로 여러 토큰 관계를 동시에 학습하는 방법을 배운다.
positional encoding → residual connection → LayerNorm → feed-forward network로 Transformer block의 전체 구성을 공부한다.
encoder → decoder → encoder–decoder 구조와 causal mask를 통해 Transformer의 주요 사용 방식을 비교한다.
pretraining → fine-tuning → instruction tuning → preference alignment로 대규모 언어모델이 학습되고 조정되는 전체 과정을 공부한다. |
| 5회차 | 생성모델: VAE, GAN, Diffusion | 1. discriminative model → generative model을 비교하여 기존 데이터를 판별하는 모델과 새로운 데이터를 생성하는 모델의 차이를 배운다.
autoencoder → latent space로 데이터를 압축된 표현으로 나타내고 다시 복원하는 방법을 공부한다.
VAE → probabilistic latent variable → reparameterization → ELBO의 직관으로 연속적인 latent space에서 데이터를 생성하는 방법을 배운다.
generator → discriminator → adversarial training으로 GAN의 학습 원리를 공부하고, mode collapse와 학습 불안정성 문제를 살펴본다.
forward process → reverse process → noise prediction → DDPM으로 이미지에 노이즈를 추가하고 제거하는 diffusion model의 원리를 배운다. (이 부분은 개념만 간단히 다룬다.) |
| 6회차 | 강화학습. | (labeled data의 backpropagation과 어떻게 다른지를 중점적으로 보라)
agent → environment → state → action → reward → policy로 강화학습이 환경과 상호작용하며 장기적인 보상을 최대화하는 행동 전략을 학습하는 문제임을 배운다.
state → action → next state → reward → episode → trajectory → return으로 강화학습에서 하나의 경험과 여러 시점의 경험이 어떻게 표현되는지 공부한다.
policy → state-value → action-value → Bellman equation으로 현재 상태와 행동의 가치를 평가하고, 미래의 보상까지 고려하는 방법을 배운다.
exploration → exploitation → policy improvement로 새로운 행동을 시도하는 것과 현재 가장 좋아 보이는 행동을 선택하는 것의 균형을 통해 policy가 개선되는 원리를 공부한다.
SARSA → Q-learning → Q-table update로 경험한 transition을 이용해 action-value를 학습하는 tabular reinforcement learning 방법을 배운다.
Q-learning → function approximation → DQN으로 상태 공간이 커질 때 Q-table 대신 neural network로 Q-value를 예측하는 방법을 배운다.
replay buffer → target network로 DQN의 학습을 안정화하는 대표적인 기법들을 간단히 공부한다. |
| 7회차 | AI Agent: LLM을 행동하는 시스템으로 만드는 방법 | 1. chatbot → fixed workflow → AI agent를 비교하여 단순 응답 시스템과 스스로 다음 행동을 선택하는 시스템의 차이를 배운다.
model → instructions → tools → state → memory → orchestration으로 AI agent를 구성하는 핵심 요소를 공부한다.
structured output → function calling → tool calling으로 언어모델이 외부 검색, 계산, API 등의 도구를 사용하는 방법을 배운다. (현재 표준 방법이 무엇인지 소개)
reasoning → action → observation → state update의 반복 구조와 ReAct를 통해 agent가 도구 결과를 바탕으로 다음 행동을 결정하는 과정을 공부한다.
planning → task decomposition → reflection으로 복잡한 작업을 작은 단계로 나누고 결과를 점검하는 방법을 살펴본다.
RAG → agentic RAG를 비교하여 정해진 검색 절차와 agent가 검색 방법·횟수를 직접 결정하는 방식의 차이를 배운다.
single-agent → multi-agent → routing → handoff로 여러 agent가 역할을 분담하는 시스템 구조를 살펴본다.