퍼셉트론과 인공신경망 1

인공신경망(ANN, artificial neural network)은 딥러닝의 핵심으로, 뇌의 뉴런의 연결에서 영감을 받은 머신러닝 모델입니다. 인공신경망은 성능과 확장성이 좋아 이미지 분류, 음성인식 서비스, 추천, 강화학습등 대규모 머신러닝 문제의 성능을 높이는데 사용됩니다. 

a는 생물학적인 뉴런의 그림입니다. c처럼 뉴런의 시냅스는 또 다른 뉴런과 이어져 있습니다. 뇌에는 수십억개의 거대한 뉴런이 연결되어 있습니다. 이러한 생물학적 뉴런에서 착안한 모델이 인공 뉴런입니다.  

 

퍼셉트론

간단한 인공 신경망구조 중 하나로, 다수의 입력을 받으면 1개의 신호를 출력하는 구조로 되어있습니다. 1 또는 0 둘중 하나를 출력하는 퍼셉트론을 생각해봅시다. 

입력이 2개인 퍼셉트론

x1,x2 : 입력 신호, w1,w2: 가중치(각 신호의 영향력 조정가능) , 원 : 뉴런 혹은 노드라 합니다. 입력 신호가 뉴런에 보내질 때 각각 고유의 가중치를 곱하게 됩니다. 이러한 신호의 총합이 전해진 한계(임계값, θ)을 넘으면 1을 출력, 이를 뉴런이 활성화한다라고 합니다. 다음과 같이 표현할 수 있습니다. 각 식에 b(편향, bias, 뉴런이 얼마나 쉽게 활성화되느냐를 제어함)를 더해주기도 합니다.

퍼셉트론은 직선 하나로 나눌 수 있는 영역만 표현할 수 있다는 한계가 있습니다. 그러나 퍼셉트론을 쌓아 다층퍼셉트론을 만들면, 비선형 영역도 표현이 가능해집니다. 

 

신경망을 그림으로 표현하면 다음과 같습니다. 

은닉층의 뉴런은 나머지 두 계층과 달리 사람의 눈에는 보이지 않습니다. 그럼 신호 처리(전달) 과정에 대해 좀 더 자세히 살펴봅시다.

편향을 명시하여 퍼셉트론을 표현하면, 

식을 다시 정리하면, 이렇게 쓸 수 있습니다:

h(x)처럼 입력 신호의 총합을 출력 신호로 변환하는 함수를 활성화 함수라고 합니다. 입력 함수의 총합이 활성화를 일으키는지 정하는 역할을 하는것이죠. 가중치가 곱해진 입력신호와 편향의 총합을 a라하면, 이를 함수 h()에 넣어 y하는 과정입니다.