[딥러닝] 퍼셉트론 (perceptron) - 다층 퍼셉트론

퍼셉트론의 한계 해결 방법 : 좌표 평면 자체에 변화를 주자!

XOR 문제를 해결하기 위해서 두 개의 퍼셉트론을 한번에 계산 해야한다  ! 은닉층(hidden layer)을 만듦

 

x 입력층 node은닉층 y 출력층

퍼셉트론이 가운데 은닉층으로 자신의 가중치w와 바이어스b 값을 보내고,  

은닉층에서 모인 값이 한 번 더 시그모이드 함수(σ)를 이용해 최종값으로 결과를 보낸다. 

 

노드(node) = 은닉층에 모이는 중간 정거장

 

n1과 n2의 값은 각각 단일 퍼셉트론의 값과 같다.

 

n1 = σ(x1w11 + x2w21+b1)

  n2 = σ(x1w12 + x2w22 + b2)

 

이제 각각의 가중치(w)와 바이어스(b)의 값을 정할 차례입니다. 2차원 배열로 늘어놓으면 다음과 같이 표시할 수 있습니다.

은닉층을 포함해 가중치 6개와 바이어스 3개가 필요합니다.

 

 

 

XOR문제 해결

 

다음과 같이 변수값을 정하고, 도식에 대입

x1	x2	n1	n2	y out	우리가 원하는 값
0	0	σ(0 * (-2) + 0 * (-2) + 3) ≈ 1	σ(0 * 2 + 0 * 2 - 1) ≈ 0	σ(1 * 1 + 0 * 1 - 1) ≈ 0	0
0	1	σ(0 * (-2) + 1 * (-2) + 3) ≈ 1	σ(0 * 2 + 1 * 2 - 1) ≈ 1	σ(1 * 1 + 1 * 1 - 1) ≈ 1	1
1	0	σ(1 * (-2) + 0 * (-2) + 3) ≈ 1	σ(1 * 2 + 0 * 2 - 1) ≈ 1	σ(1 * 1 + 1 * 1 - 1) ≈ 1	1
1	1	σ(1 * (-2) + 1 * (-2) + 3) ≈ 0	σ(1 * 2 + 1 * 2 - 1) ≈ 1	σ(0 * 1 + 1 * 1 - 1) ≈ 0	0

≈거의 같다는 의미

 

n1 = NAND 게이트

n2 = x1, x2에 대한 OR 게이트

y out = n1,n2에 대한 AND 게이트

 

 

---

코딩으로 구현하기

 

import numpy as np

#w와 b
w11 = np.array([-2,-2])
w12 = np.array([2,2])
w2 = np.array([1,1])
b1 = 3
b2 = -1
b3 = -1

# 퍼셉트론
def MLP(x, w, b):
	 y = np.sum(w*x)+b
     if y<0:
     	return 0
     else:
       return 1
       
# NAND 게이트
def NAND(x1, x2):
    return MLP(np.array([x1, x2]), w11, b1)
 
# OR 게이트
def OR(x1, x2):
    return MLP(np.array([x1, x2]), w12, b2)
 
# AND 게이트
def AND(x1, x2):
    return MLP(np.array([x1, x2]), w2, b3)
 
# XOR 게이트
def XOR(x1, x2):
    return AND(NAND(x1, x2),OR(x1, x2))
 
# x1, x2 값을 번갈아 대입하며 최종값 출력
if __name__ == '__main__':
    for x in [(0, 0), (1, 0), (0, 1), (1, 1)]:
        y = XOR(x[0], x[1])
        print("입력 값: " + str(x) + " 출력 값: " + str(y))