인공지능 구조 원리2 - 기초

뉴런

뇌세포의 작동 원리를 수식으로 표현해보자

뉴런은 신경세포에 여러 가닥으로 붙어 있는 수상돌기들을 통해 여러 자극 신호들이 신경세포로 들어오고, 축삭은 신경세포가 보내는 자극을 다른 신경세포로 전달하는 역할을 한다.

• 신경세포로 전달되는 여러 자극값들의 합이 일정 기준을 넘어서면 다음 세포로 전달되고, 못 미치면 그냥 소멸되는 방식으로 작동한다.

이 메커니즘을 기계로도 만들어 볼 수 있지 않을까??

퍼셉트론

뉴런의 작동 방식을 인위적으로 모방한 모듈

• 여러 자극이 입력되는 것을 각각 하나의 변수로 생각해 w1x1, w2x2 … 의 형식으로 입력을 받고, 이를 합친 후 출력으로 보낸다.
• 이 출력값이 일정값 이상이면 다음 셀로 전달하고, 그렇지 않으면 출력을 소멸하는 구조의 모듈
• 이 입출력 구조를 갖는 모듈이 퍼셉트론이다.
• 이전에 본 y = wx + b 가실식과 유사하다.
• 활성화 함수 : 입력되는 값이 일정 값 이상이면 출력값을 전달하고, 이하이면 소멸시킨다.

퍼셉트론이 AND 연산이나 OR 연산을 학습할 수 있는지 확인해보자.

• 가설식을 학습시켜 그림의 점선처럼 AND, OR연산의 결과 분포를 구분 지을 수 있다.

그럼 XOR 연산은?

퍼셉트론을 여러개 사용하면 된다.

다층 퍼셉트론

다차원으로

• 다층으로 연결되자, 가설식이 구성되는 차원이 넒어졌다.
• 차원이 확장되니, 기존의 2차원의 평면 안에서 해결 할 수 없었던 XOR 문제를 3차원 이상의 다차원에서 해결 할 수 있게 되었다.
• 이와 같이 퍼셉트론을 둘 이상의 차원으로 연결하는 구조를 다층 퍼셉트론이라고 부른다.

DNN(Deep Neural Network)

학습 능력과 문제 해결력이 올라가다.

신경망을 늘릴수록, 가중치의 개수가 늘어나고 컴퓨터가 만들어 볼 수 있는 가설이 다양해지므로, 결과에 최적화된 예측식이 나올 가능성도 더 높아진다.

• 많은 수의 학습 모듈을 사용하고, 여러 층으로 연결해 복잡도를 높인 특성을 가진 머신러닝 기법이나 모델들을 개념적으로 통칭해 딥러닝이라 부른다.
• 딥러닝은 기본적으로 입력층, 출력층, 은닉층으로 구성된다.
  • 입력층 : 문제에 영향을 주는 요소들의 데이터값을 입력받는 층
  • 출력층 : 입력값을 고려해 모델이 산출한 결과값을 얻는 층
  • 은닉층 : 중간에서 가중치 구성의 복잡도를 높여주는 층
    • 복잡도가 높아지고, 차원이 확장된 가설식은 학습이 진행됨에 따라 학습 데이터의 특성을 가중치에 최대한 자세히 담아낸다.

DNN은 퍼셉트론을 다층으로 구성한 딥러닝의 기본형 모델