[부스트캠프 AI Tech / Day14] 딥러닝 기초 Sequential Model - Transformer

[DAY 11] NN & MLP Neural Network? 신경망, 뇌를 모방하고자 하는 시스템 함수적 접근: 이미지 분류하기 위해 벡터, 행렬곱 등의 함수를 모방하는 Function approximator 라고 보는 것 function approximator: parameter를 이용하여 실제 값에 approximate하...

[DAY 12] Optimization(최적화) Gradient Descent local minium을 찾기 위한 1차 반복 최적화 알고리즘(1차 미분만을 반복적으로 사용) 미분 함수의 최소값 최적화 목차 Generalization Under-fitting vs. over-fitting Cross validation ...

[DAY 12] Gradient Descent Methods Gradient Descent의 종류 Stochastic gradient descent Mini-batch gradient descent Batch gradient descent Stochastic gradient descent 여러 데이터가 있을 때, 한번에 ...