딥러닝4 딥러닝_Neural Network_backpropagation neural network에서 에러를 줄이기 위해 지속적으로 weight와 bias를 학습한다. 이 전 글에서 weight를 optimizing 하는 방법으로 backpropagation 을 사용한다고 했다. backpropagation을 하기 전에 weight와 bias를 어떻게 조절하는지 알아보겠다. 그 방법으로 gradient descent algorithm을 사용한다고 한다. 여기서 gradient descent algorithm은 자세히 다루지 않겠다. inputs이 들어오고 weight와 bias 연산을 거쳐서 ouput이 나오게 된다. 우리는 알고있는 Desired 값과 Guessed 값을 비교해서 에러를 찾는다.*Desired 값: 이미 우리가 알고 있는 값 (나와야 하는 값)*Guesse.. 2014. 12. 19. 딥러닝_Neural Network_멀티 퍼셉트론 하나의 퍼셉트론에 여러개의 inputs을 받았다. 지금까지 본 것은 하나의 뉴런이라고 할 수 있다. 뉴럴 네트워크가 뜨는 이유는 이러한 뉴런이 여러개가 네트워크를 이루기 때문이다. 하지만 퍼셉트론에는 문제가 있는데 선형 구분가능(linearly separable)문제가 있다. 선형 구분 가능(linearly separable)은 다차원 공간에 분포한 두 집단이 하나의 다차원 평면(hyper plane)으로 구분 가능함을 의미한다. - d위키백과 선형 구분 가능한 문제선형 구분 불가능한 문제리니어 세퍼레이블 문제는 왼쪽에 보이는 그림과 같이 하나의 선으로 두 부분으로 구분할 수 있는 것이다. 하지만 오른쪽 그림과 같이 하나의 선으로는 white&black으로 구분할 수 없는 문제가 생긴다. (XOR pro.. 2014. 12. 19. 딥러닝_Neural Network_퍼셉트론 퍼셉트론은 뉴럴 네트워크의 가장 심플한 기본적인 형태이다. (하나의 뉴런 모델)하나의 퍼셉트론은 여러가지 inputs, 하나의 프로세서, 하나의 output으로 되어 있다. 위의 그림에서 보면 Input0, Input1에서 값이 processor로 들어가고 processor에서 어떠한 연산을 한 후 output으로 보내는 과정이다. 그러면 조금 더 자세하게 값을 넣어 가면서 보겠다. 1. 먼저 두 inputs 값을 x1, x2로 보겠다. x1 = 12 (input0)x2 = 5 (input1) 2. wieght 값을 정한다. 각 input은 processor로 보내질 때 weight값과 계산되어서 가야한다. 예를 들어 어떠한 weight값과 input값이 곱셈이 되어 간다. (보통 weight값은 -1과.. 2014. 12. 19. 딥러닝_Neural Network_서론 deep learing(딥러닝)을 공부하려면 기본적으로 신경망 네트워크를 알아야 한다.앞으로 간단하게 요약을 해서 정리하려고 한다. 먼저 기본적으로 퍼셉트론(perceptron)은 인공신경망의 한 종류로서, 1957년에 코넬 항공 연구소(Cornell Aeronautical Lab)의 프랑크 로젠블라트 (Frank Rosenblatt)에 의해 고안되었다. 이것은 가장 간단한 형태의 피드포워드(Feedforward) 네트워크 - 선형분류기- 으로도 볼 수 있다.퍼셉트론이 동작하는 방식은 다음과 같다. 각 노드의 가중치와 입력치를 곱한 것을 모두 합한 값이 활성함수에 의해 판단되는데, 그 값이 임계치(보통 0)보다 크면 뉴런이 활성화되고 결과값으로 1을 출력한다. 뉴런이 활성화되지 않으면 결과값으로 -1을 .. 2014. 12. 19. 이전 1 다음 반응형
