손실 함수(Loss function) vs 비용 함수(Cost function)

 

 

목차

손실 함수 vs 비용 함수 (Loss function vs Cost function)

• 손실 함수(Loss function)는 1개의 train sample에 대한 오차를 측정합니다. (즉, 모델의 예측 값과 실제 값 사이의 차이를 나타냅니다.)

  • 

• 비용 함수(Cost function)는 전체 train dataset에 대한 손실 함수의 평균이나 합계를 의미합니다.

  • 

  • 위의 예시는 손실 함수에 대한 평균을 의미합니다. 만약, 비용 함수를 계산할때 평균이 아닌 합계로 계산하고 싶다면 pytorch의 경우 reduction을 'mean'이 아닌 'sum'으로 지정해 주면 됩니다.