[ML] Softmax Regression (Multinomial Logistic Regression)

▶ Multinomial Classification(다중 분류)

- softmax 함수 기반

: 함수 이후의 값이 0~1사이의 값이고, 전체 값의 합이 1이 되는 함수

: y값에서 softmax함수에 대입해 나온 값들 중 제일 큰 값을 제외하고 1로 만들수 있음, 이를 참조하여 최종 선택을 결정.

== One-Hot Encoding

​

▶ Cost Function : Cross-entropy

S(y) == 예측값 , L == Y(실제값) / 여러 값들을 비교 할 경우, 예측과 실제 값의 차이를 알아내는 함수 = Cross-entropy

- Logistic cost VS cross entropy(위와 아래 식이 동일)

- Cross-entropy cost function