안녕하세요! 4.5장으로 찾아왔습니다! 이번 강의에서는 Data set, Batch & Epoch &Iterations들을 소개 하겠습니다! 우선 아주 중요한 Data set에 대해서 설명할건데요! 우선 딥러닝에서는 신경망 모델을 학습하고 평가하기 위해 dataset이 필요합니다! 또한 앞에서 배운 Overfitting을 찾아 낼려해도 필요하죠! - Train set: 모델을 학습하기 위한 dataset이며 모델을 학습하는데에는 오직 유일하게 Train dataset만 이용합니다. - Validation set: 학습이 이미 완료된 모델을 검증하기 위한 dataset입니다. - Test set: 학습과 검증이 완료된 모델의 성능을 평가하기 위한 dataset입니다. 그럼 Validation set이랑 T..

안녕하세요! 오늘은 딥러닝 기초 4장으로 왔습니다! 우선 오늘의 목차를 소개 하겠습니다! 우선 Overitting에 대해서 설명해보겠습니다! 우선 Overfitting을 이해하기 위해 Model Capacity를 설명하겠습니다! Capacity는 머신러닝에서 모델에 있는 학습 파라미터의 수를 모델을 말합니다! 우선 Overfitting은 학습을 너무 과도하게 하여 입력을 할 경우에 원하는 분류가 아닌 학습된 정보만을 뽑아내버리는 현상을 말하는 거 같아요... 이러한 경우에는 예를 들어 말하면 위에 사진 같은 경우가 있겠죠. 위 그래프 같은 경우 Overfitting을 나타낸 그래프 입니다! 너무 정답만 찾아 갈려고 하죠... ! 반대로 학습이 너무 안된 경우는 Underfitting이라고 합니다! 이 경..

안녕하세요~ 3장 초반을 끝내고 3.5장으로 돌아왔습니다! 3.5장에서는 엔트로피(Entropy)에 대해 설명하겠습니다! 엔트로피란 엔트로피는 불확실성을 수치화한 값입니다. 그 건을 예측하는 데에 필요한 질문 개수를 의미하게 됩니다! 또한 Entropy는 정보를 표현하는데 있어 필요한 평균 최소 자원량이라고도 할 수 있습니다! 그래서 엔트로피가 높으면 정보가 많다고 할 수 있으며 확률이 낮다는 것을 의미합니다. 반대로 엔트로피가 낮으면 정보의 예측성이 높고 확정적인 정보가 많아, 굳이 정보를 전송하지 않아도 되므로 평균 정보량이 적습니다! 엔트로피의 수식은 사건 X에 대한 확률분포를 p(x)라고 할 때 엔트로피 H(x)는 아래와 같이 표현할 수 있습니다! 엔트로피에 대한 이해를 위해 문제하나를 찾아왔습니..

안녕하세요! 오늘은 제가 소개하는 딥러닝 기초 3장을 소개하겠습니다!! 오늘도 시작되는 목차입니당~ 오늘은 Softmax Regression에 대해 시작을 하겠습니당! 우선 소프트맥스 회귀는! 다중 클래스 분류 문제를 위한 회귀 방법으로 다중 클래스 분류(Multi-class Classification)이라고 말합니다! 이때 함수가 사용되는데 그게 바로 Softmax함수 입니다. 이해를 위해 문제 하나를 찾아 정리 해봤습니다! 다중 클래스를 분류를 했습니다 만약 강아지 값이 1 고양이가 2 닭이 3으로 정의합니다! 이렇게 되면 수학적으로 의미가 이상해집니다... 모두 비슷하다고 되어버리네요!! 그래서 소프트맥스 함수를 사용게 되는데 얻어진 값은 벡터값을 softmax함수에 넣어주면 열의 합이 1인 확률의..

이번에는 2.5장으로 다시 설명을 이어가겠습니다! 2장에서는 논리게이트, 입력층, 은닉층, 출력층, 퍼셉트론, 활성화 함수에 대해 공부했습니다. 이걸 기반으로 2.5장 DNN을 설명하겠습니다! RNN은 Recurrent Neural Network의 줄임말 입니다! 순환 신경망이라고 합니다! RNN은 입력과 출력을 시퀀스(Sequence) 단위로 처리합니다! 시퀀스란 문장 같은 단어가 나열된 것을 뜻합니다. 즉! 데이터를 순서대로 하나씩 나열하여 나타낸 데이터 구조입니다! RNN은 은닉층의 메모리 셀에서 나온 값이 다음 은닉층의 메모리 셀에 입력되어 순환을 하는 구조입니다! 이러한 값, 상태를 은닉 상태라고 합니다! RNN은 입력과 출력의 길이가 다르게 설계가 가능한데.. 이제 이 부분을 설명할려고 합니다..

이번 글은 딥러닝 기초 강의 2장입니다! 2장에서는 신경망(Neural Network)과 신경망 중 하나인 RNN (Recurrent Neural Network)에 대해 소개할 것입니다! 우선 목차 입니다! 신경망에 대해 소개 하겠습니다. 우선 논리 게이트에 대해 설명 하겠습니다! 논리 게이트에는 다양한 종류가 있지만 우선 OR,XOR,AND를 먼저 설명할려고 합니다! OR연산자에 대해 설명하겠습니다. 우선 식에서 W는 가중치를 뜻하고 b는 임계치를 설명 합니다! 우선 직선하나로 분류가 가능한데 x1 x2값이 입력되어 찍힌 점이 직선보다 크거나 같은 부분은 참으로 분류가 됩니다! 작은 값은 거짓으로 분류가 됬네요... 두번째는 AND 게이트 인데 여기까지는 직선 하나로 표현이 가능합니다! 이 부분은 x1..