본문 바로가기

전공공부

(2)
[Deep Learning] Shallow Neural Network Neural Network란? logistic regression에서 봤듯이 단순한 수식으로 표현하기 힘든 걸 여러개의 node를 통해 예측하는 것이다. 간단한 구조는 다음 그림과 같이 설명된다. 여기서 2-layer Nueral Network를 수식적으로 좀 더 표현하면 다음과 같다. 여기서 각 기호의 의미는 다음과 같다. Node Neural Network를 표현한 그림에서 각 layer에서 동그라미가 의미하는 것은 node이며, 각각의 node는 이전 layer node값에 각각의 weight를 곱한 후 active function을 이용해 값을 얻어낸다. 따라서 각 노드를 다음과 같이 나타낼 수 있다. 여기서 n = 1일 일 때 node는 input layer의 값들을 받게 되며, g(x)는 ac..
[Deep Learning] Logistic Regression Logistic Regression logistic regression은 linear regression에서 input 과 predict가 논리 값인 0 ,1 로만 이루어진 것이다. 이렇게 input이 들어 올때, linear algebra를 사용하여 예측 값인 Y의 0 과 1 영역을 다음 그림과 같이 나눌 수 있다. 여기서 w1 , w2값을 그때 그때 사람이 구하지 않고, 알고리즘을 통해 값을 구해내는게 Logistic regression이다. Sigmoid 위에서 선정한 linear algebra를 통해 논리 값인 0 , 1 에 어느 쪽에 더 가까운지 판단하는 수식이며, 식은 다음과 같다. 여기서 w·x에 따라 sigmoid의 그래프 개형을 살펴보면 다음과 같다. Loss Function 이제 Sig..