Neuron을 훈련 학습시킨다(training한다)는 것은 인간의 뇌와 같은 정보 처리 및 시냅스 학습행동을 모방하여 인공신경망에서 사용되는 가중치를 수정하고 기억하는 방식을 말한다. 주어진 training dataset에 의도된 대로 neuron이 동작하도록 θ={w,b}를 결정하는 것이다. 비유해서 설명하면, 앞장의 뇌 뉴런피질 그림처럼 생긴 것이 고속도로 톨게이트를 포함한 전국 도로망과 비슷하다. 

전국 도로망 같은 텐서 네트워크 속에서 설명절에 귀향하는 노선을 반복된 행동으로 인간의 뇌는 학습의 결과로 각 노선과 노드의 수많은 경로에서 최단시간 노선을 기억한다. 인간의 학습도 신경망 속의 뇌세포의 연결강도를 의미하는 것이다. 학습된 것을 기억하고 있는 상태에서 비슷한 경우에 처해지면 연결강도가 강한 노선따라 즉 학습된 경로따라 고속도로를 노선을 선택하는 것이다.