전체 글227 딥러닝_Neural Network_backpropagation neural network에서 에러를 줄이기 위해 지속적으로 weight와 bias를 학습한다. 이 전 글에서 weight를 optimizing 하는 방법으로 backpropagation 을 사용한다고 했다. backpropagation을 하기 전에 weight와 bias를 어떻게 조절하는지 알아보겠다. 그 방법으로 gradient descent algorithm을 사용한다고 한다. 여기서 gradient descent algorithm은 자세히 다루지 않겠다. inputs이 들어오고 weight와 bias 연산을 거쳐서 ouput이 나오게 된다. 우리는 알고있는 Desired 값과 Guessed 값을 비교해서 에러를 찾는다.*Desired 값: 이미 우리가 알고 있는 값 (나와야 하는 값)*Guesse.. 2014. 12. 19. 딥러닝_Neural Network_멀티 퍼셉트론 하나의 퍼셉트론에 여러개의 inputs을 받았다. 지금까지 본 것은 하나의 뉴런이라고 할 수 있다. 뉴럴 네트워크가 뜨는 이유는 이러한 뉴런이 여러개가 네트워크를 이루기 때문이다. 하지만 퍼셉트론에는 문제가 있는데 선형 구분가능(linearly separable)문제가 있다. 선형 구분 가능(linearly separable)은 다차원 공간에 분포한 두 집단이 하나의 다차원 평면(hyper plane)으로 구분 가능함을 의미한다. - d위키백과 선형 구분 가능한 문제선형 구분 불가능한 문제리니어 세퍼레이블 문제는 왼쪽에 보이는 그림과 같이 하나의 선으로 두 부분으로 구분할 수 있는 것이다. 하지만 오른쪽 그림과 같이 하나의 선으로는 white&black으로 구분할 수 없는 문제가 생긴다. (XOR pro.. 2014. 12. 19. 딥러닝_Neural Network_퍼셉트론3 지금까지 한 방법은 우리가 이미 알고 있는 답을 input값으로 뉴럴 네트워크에 넣고 값을 예측했다. 이러한 방법을 지도학습(supervised learning) 이라고 한다. 간단하게1. 지도학습(supervised learning): 우리가 이미 알고있는 훈련데이터로부터 뉴럴 네트워크가 이것을 정확하게 판별하는지 시도하는 것이다. 예를 들어, 얼굴인식으로 보면, 훈련데이터로 정확한 얼굴 모양과 이름 등 데이터를 가지고 뉴럴 네트워크를 학습시킨다. 그 후에 데이터를 넣어서 답을 구한다. 이 답이 가지고 있는 훈련데이터와 맞는지, 정확하게 예측했는지 아닌지를 판별한다. 그리고 에러를 조정하 나간다. 2. 자율학습(unsupervised learning): 이것은 우리가 알지 못하는 데이터들을 가지고 기계.. 2014. 12. 19. 딥러닝_Neural Network_퍼셉트론2 신경망은 패턴인식에 자주 쓰인다. 예를들어 얼굴인식(facebook에서 딥러닝을 통해 얼굴 인식을 개발했다고 들었다.), 손글씨 인식, 이미지 인식에 사용된다. 싱글 퍼셉트론으로 간단하게 패턴을 인식을 해보겠다. 예를들어 먼저 2차원에서 y=2x+1 과 같은 하나의 함수가 있을 때, 위의 보이는 선을 기준으로 두 사이드로 나눌 수 있다. 이것이 간단하게 생각하면 점들을 분류, 인식하는 것으로 생각할 수 있다. 만약에 퍼셉트론에 x, y inputs이 들어 온다고 하면 processor와 activation function을 통해 -1과 1로 output을 낼 수 있다. 이렇게 나타난 것을 분류되었다고 할 수 있다. 앞에서 봤던 그림 처럼, 두개의 input이 들어와서 weight와 계산을 한수 proce.. 2014. 12. 19. 이전 1 ··· 36 37 38 39 40 41 42 ··· 57 다음 반응형
