ADsP 인공신경망

 

인공신경망 분석 ANN artificial neural network

생물학의 뇌는 신경세표 neuron 와 신경세포를 연결하는 시냅스 synapse 를 통해서 신호를 주고받음

이러한 신호의 교환으로 정보를 저장하고 학습

인공신경망은 뇌의 학습방법을 수학적으로 모델링한 기계학습 알고리즘

시냅스의 결합으로 네트워크를 형성한 신경세포가 학습을 통해 시냅스의 결합 세기를 변화시켜 문제를 해결하는 모델 전반을 가리킨다.

 

인공신경망 구조

인공신경망은 입력층 input layer, 은닉층 hidden layer, 출력층 output layer 으로 구성되어 있음

입력층에는 각각의 입력변수가 1:1로 매칭되는 뉴런이 존재

은닉층에는 입력층의 뉴련과 가중치 weight 의 결합으로 생성되는 뉴런이 존재하며, 은닉층에서의 층의 개수에 따라 모형의 복잡도가 결정되고 은닉층의 개수가 2개 이상이 되는 경우 deep neural network 또는 deep learning 이라고 한다.

출력층에는 은닉층에서의 뉴런과 가중치가 결합하여 생성되는 뉴런이 존재

예측하고자 하는 종속변수의 형태(numeric, binary, multinomial)에 따라 출력층의 개수가 결정된다.

히든층과 출력층에 존재하는 뉴런은 이전 층에서의 입력값과 가중치의 합을 계산하는 기능과 뉴런의 가중합을 입력값으로 신호를 출력하는 활성화 함수 activation function 기능을 수행한다. Sigmoid(2개), Softmax(3개 이상) 등

 

역전파 알고리즘

ANN 을 학습시키기 위한 가장 기본적이고 일반적인 알고리즘

 

신경망 모형의 장점

변수의 수가 많거나 입력, 출력변수간에 복잡한 비선형관계에 유용

잡음 noise 에 대해서도 민감하게 반응하지 않음

연속형이거나 이산형인 경우 모두 처리가 가능

 

신경망 모형의 단점

결과에 대한 해석이 쉽지 않다

최적의 모형을 도출하는 것이 상대적으로 어렵다

데이터 정규화를 하지 않으면 지역해(로컬에 최적화되어 있는 해)의 위험에 빠지기 쉽다

모형이 복잡하면 훈련과정에 시간이 많이 소요된다.