초초보도 이해하는 딥러닝 2탄 : 퍼셉트론(Perceptron)

퍼셉트론(Perceptron)은 딥러닝을 시작할 때 처음 등장하는 개념이다.

딥러닝은 아주 최근에 등장한 것처럼 보이지만, 실제로 이 개념은 1957년 프랑크 로젠블라트(Frank Rosenblatt)라는 사람이 고안한 알고리즘이다.

퍼셉트론은 여러개의 신호를 입력(Input)으로 받아 하나의 신호를 출력(Output)한다.

도식과 수식으로 표현해보면 아래와 같다.

퍼셉트론(Perceptron)의 도식과 수식

두개의 입력(x1, x2)이 있다고 가정할 때 두개의 입력에 가중치(w1, w2)만큼을 곱하여 그 조합의 합이 임계값을 넘었을 경우 1이라는 반응을 하거나 그렇지 않은 경우 0이라는 무반응을 보이는 것이 퍼셉트론의 개념이다.

이를 수식으로 나타낸 것이 위 그림의 오른쪽 부분의 수식인데, 임계치(θ)를 편향(b)이라는 개념으로 바꾸어 좌변으로 이동시킨 것이 아래의 수식이다.

이를 잘 조합하면 컴퓨터의 논리연산도 가능한데, 입력이 0, 1만 주어질 때

예를들어 (w1, w2, θ) 각각을 (0.5, 0.5, 0.8)이라고 하면 AND연산을 (0.5, 0.5, 0.4)라고 하면 OR 연산이 가능해진다. 다만 이 구조에서는 NAND연산까지도 가능하지만 XOR연산은 불가능하다.

이유는 한층의 퍼셉트론만으로는 선형구조(직선 구조)만을 나타낼 수 있기 때문인데,

퍼셉트론을 중첩시켜 다층 퍼셉트론을 구현하게되면 XOR과 같은 연산도 가능한 다층 퍼셉트론(multi-layer perceptron)을 구현할 수 있다.

다층 퍼셉트론(multi-layer perceptron)

 

이렇게 한 층을 더 쌓은 것만으로도 컴퓨터의 기본 논리연산은 모두 가능하게 된다.

 

여러 입력에 대하여 이러한 퍼셉트론을 여러층으로 쌓는 개념이 딥러닝의 출발 개념이라고 할 수 있겠다.

다음 번에는 신경망에 대해서 알아보도록 하겠다.