[DL] Bias 개념

📌 Bias란 무엇인가?

Bias는 추정된 파라미터가 실제 파라미터와 다른 정도를 나타내는 스칼라 값입니다.

모델의 파라미터  θ를 추정했을 때, bias 값이 크다면, 추정된 파라미터가 실제 파라미터와는 상당히 멀리 떨어져 있음을 나타냅니다. 

✅ θ란 무엇인가?

머신러닝, 딥러닝에서는 데이터셋에 맞게 모델의 파라미터 θ를 훈련합니다.이 값을 변형해서 주어진 모집단의 데이터를 가장 잘 설명하는 데이터를 찾습니다.하나의 모델에는 아주 많은 파라미터가 있기 때문에, 그냥 통틀어서 파라미터들을 θ라고 합니다.

 

 

그렇다면 bias값이 작은 경우가 실제 파라미터와 값이 비슷할 것이고 대체적으로 bias값이 0인 경우가 좋습니다.