[DAY 12] Regularization 학습에 반대되도록 규제를 걸기 학습을 방해하여, train data 뿐만아니라 test data에도 잘 동작하도록 만들 수 있음 일종의 도구들에 대하여 설명 (사용하면 잘될수도 있음) 종류 Early stopping Parameter norm penalty ...
[부스트캠프 AI Tech / Day12] 딥러닝 기초 Optimization - Gradient Descent Methods
[DAY 12] Gradient Descent Methods Gradient Descent의 종류 Stochastic gradient descent Mini-batch gradient descent Batch gradient descent Stochastic gradient descent 여러 데이터가 있을 때, 한번에 ...
[부스트캠프 AI Tech / Day12] 딥러닝 기초 Optimization
[DAY 12] Optimization(최적화) Gradient Descent local minium을 찾기 위한 1차 반복 최적화 알고리즘(1차 미분만을 반복적으로 사용) 미분 함수의 최소값 최적화 목차 Generalization Under-fitting vs. over-fitting Cross validation ...
[부스트캠프 AI Tech / Day12] Math_AI CNN
[DAY 11] Convolutional Neural Network (CNN) Convolution 연산 MLP 지금까지 배운 다층신경망(MLP)은 각 뉴런들 선형모델과 활성함수로 모두 연결된(fullyconnected) 구조 각 성분 $h_i$에 대응하는 가중치 행 $W_i$이 필요 $i$가 바뀌면, 사용되는 가중치...
[부스트캠프 AI Tech / Day11] Today
피어세션 정리 질문 엠제이 & 펭귄 가능도함수의 모양 질문 ‘엠제이’ “딥러닝에서 최대가능도 추정법” 식에 대한 질문 샐리 최대가능도 함수는 정규분포를 따르는가? ➡ NO 참고링크 [AI Math 7강] further question 1 번 2 번 어떤 확률을...
[부스트캠프 AI Tech / Day11] 파이썬 Pytorch
[DAY 11] Pytorch 딥러닝 코드를 처음부터 짜면 죽을 수도 있으므로 남이 만들어놓은 프레임워크를 가져다 쓴다. Tensorflow, keras, julia, mxnet, theano, caffe, pytorch, cntk, … 이 중에서 우리가 중점적으로 볼 것은 파이토치와 텐서플로우이다. Pytorch = Numpy + Au...
[부스트캠프 AI Tech / Day11] 딥러닝 기초 NN & MLP
[DAY 11] NN & MLP Neural Network? 신경망, 뇌를 모방하고자 하는 시스템 함수적 접근: 이미지 분류하기 위해 벡터, 행렬곱 등의 함수를 모방하는 Function approximator 라고 보는 것 function approximator: parameter를 이용하여 실제 값에 approximate하...
[부스트캠프 AI Tech / Day10] Math_AI 베이즈 통계학
[DAY 11] 베이즈 통계학 조건부확률 조건부확률 $P(A B)$ 사건 $B$가 일어난 상황에서 사건 $A$가 발생할 확률 $P(A \cap B)$가 일어날 확률 / 특정사건 $B$가 일어날...
[ETC] VS code에서 Colab 사용하기 (for Windows)
VS code에서 colab 실행 Colab 다음의 코드를 실행 !pip install colab-ssh --upgrade from colab_ssh import launch_ssh_cloudflared, init_git_cloudflared launch_ssh_cloudflared(password="패스워드") VSCode Remot...
[부스트캠프 AI Tech / Day10] Today
피어세션 정리 제안 엠제이: 자유롭게 슬랙에 카톡하듯이 질문했으면 좋겠습니다 서폿: 중요한 것은 깃허브 이슈 서폿: 질문자 답변자가 독스에 짤막하게 정리식으로 적어주기 피어세션 시간 고찰 깃허브 ➡ 생각을 많이해서 정리 피어세션 ➡ 자유롭게 질문하는 분위기 펭귄 ➡ Further Question 은 피어세션에서 다 함...