• 이미지는 숫자(픽셀)로 표현될 것이다.
• 이러한 픽셀들의 특징을 가지고 해당 이미지가 고양이인지 강아지인지 판별한다.
• 전문성을 가진 고양이 전문가, 강아지 전문가가 특징점을 구별해서 이를 컴퓨터 코딩으로 분류하는 것

⇒ 우리는 좀 더 나은 방법이 없을까라는 고민을 하게된다.

$f(x,W) = Wx$로 고양이와 강아지를 분류해본다면,

$x \in R^{3072 \times 1}$, $W \in R^{2\times 3072}$라고 한다면,

$Wx \in R^{2\times1}$이 될 것이다. 2가지 Output으로 축소시켰다.

$s = f(x,W) =Wx$라고 한다면,

$\hat{y} = \frac{exp(s_i)}{\sum_{j=1}^2 exp(s_j)}$ $s$는 우리가 Logit이라고 부르고 이 logit을 확률로 변경하는 softmax 함수에 넣어주면 주어진 인풋을 통해 확률을 예상할 수 있게된다.

⇒ 우리의 목표인 $W$를 정답값에 가까워지도록 $W$를 계속해서 Optimization을 해야한다.

• $L(\hat{y},y) = -\sum_{i=1}^2y_ilog\hat{y_i}$ 로 목적함수를 정의 (CrossEntropy)
• $W = W-\frac{\partial L}{\partial W}$

⇒ W, 너가 알아서 이미지의 특징을 잡아서 분류해줘 ~ 라는 느낌이다.