저는 인공지능 관련 학과에 재학중입니다. 저학년 때 공부를 덜 해서 기초가 부족함을 느끼고 호형님 강의로 기초 공부를 하고 있는데요, 교수님께서 강의하실 때도 항상 궁금했던 건데 은닉층 사이 weight값들이 있음에도 불구하고 bias가 왜 있는건지가 궁금합니다.

안녕하세요.&nbsp;좋은 질문입니다.bias 없이 레이어를 구성하면 h(x)=Wx의 형태가 되고 이는 인풋이 0이면 무조건 0을 출력을 하게 되죠. 따라서 h(x)=Wx+b 형태로 레이어를 구성하여 피쳐값을 조정할 수 있습니다. (즉, bias b를 통해 각 피쳐값을 평행이동 시킬 수 있습니다.) 더 나아가 ReLU같은 nonlinear activation function a을 통해 비선형 레이어 h(x)=a(Wx+b)를 만들어 신경망을 구축할 수 있습니다. 추가적으로, b도 W와 마찬가지로 학습가능한 모델 파라메터입니다!&nbsp;감사합니다.

인프런 커뮤니티 질문&답변

bias가 왜 필요한지 정확하게 모르겠습니다.