[Deep Learning] Feed Forward Networks

Feed Forward Networks는 입력층, 은닉층, 출력층으로 구선된 신경망 모델이다.

각 층의 뉴런은 활성화 함수를 통해 입력 신호를 처리하고, 가중치와 편향(b)를 학습하여 입력과 출력 사이의 복잡한 비선형 관계를 모델링 한다. 

(+입력 데이터가 출력층까지 진행되는 동안 중간 과정에서 다양한 특징을 추출할 수 있다.)

 

---

 

📌 퍼셉트론

 

 

---

bias는 추정된 파라미터가 실제 파라미터와 다른 정도를 나타내는 스칼라 값이다.

 

모델의 파라미터 (세타)를 추정했을 때, bias 값이 크다면 추정된 파라미터가 실제 파라미터와는 상당히 멀리 떨어져 있음을 나타낸다.

 

bias 값이 작은 경우가 실제 파라미터 값과 비슷할 것이고, 대체적으로 bias=0인 경우가 좋다.