반응형 손실함수2 [머신러닝] 손실 함수(Loss Function)란? 손실함수(Loss Function)는 머신러닝과 딥러닝 모델에서 모델의 예측값과 실제값 간의 차이를 수치적으로 표현한 함수입니다. 모델이 얼마나 잘못 예측했는지를 나타내며, 이 값을 최소화하는 것이 학습의 목표입니다. 주요 손실함수 유형*회귀 문제평균제곱오차(Mean Squared Error, MSE): 실제값(yi)과 예측값(y^i)의 차이를 제곱하여 평균을 구함. 차이가 클수록 더 큰 패널티를 줌.평균절대오차(Mean Absolute Error, MAE): 차이의 절댓값 평균을 구함. 이상치(outlier)에 덜 민감. *분류 문제이진교차엔트로피(Binary Cross-Entropy): 예측확률(y^i)이 실제 클래스(yi)에 가까울수록 손실이 작아짐.다중교차엔트로피(Categorical .. 2024. 11. 15. [혼공머신] 04-2 | 확률적 경사 하강법 키워드확률적 경사 하강법훈련 세트에서 샘플을 하나씩 꺼내서 손실 함수의 경사를 따라 최적의 모델을 찾는 알고리즘이다. 샘플을 하나씩 사용하지 않고 여러 개를 사용하면 미니 배치 경사 하강법이 된다. 한 번에 전체 샘플을 사용하면 배치 경사 하강법이 된다.손실 함수손실함수는 확률적 경사 하강법이 최적화할 대상이다. 대부분의 문제에 잘 맞는 손실 함수는 이미 정의되어 있다. 이진 분류에는 로지스틱 회귀(또는 이진 크로스 엔트로피) 손실 함수를 사용한다. 다중 분류에는 크로스 엔트로피 손실 함수를 사용한다. 회귀 문제에는 평균 제곱 오차 손실 함수를 사용한다.에포크확률적 경사 하강법에서 전체 샘플을 모두 사용한 횟수를 의미한다. 일반적으로 경사 하강법 알고리즘은 수십번에서 수백 번 에포크를 반복한다.0.. 2024. 10. 24. 이전 1 다음 반응형
