세타를 그냥 'Q'로 표현할 께요. 가정함수(h) = (Q- Q*X), 목표값변수 = y ;; 둘의 차이 = (Q-Q*X) - y ;; 이것을 제곱한 것이 평균제곱오차(MSE) 잖아요. 그러면 저절로 세타(Q)의 제곱이 생기는 세타의 이차방정식이 됩니다. 양의 이차방정식 곡선은 아래로 볼록.

그냥 오차를 계산하면 되는데.. 굳이 오차의 제곱을 한 이유가 또한 이런 이유 때문인 것 같아요. 아래로 볼록인 이차함수 만들려고.

오차를 제곱한 이유는 1. 예상값에 따라 오차가 양수도 될 수 있고 음수도 될 수 있고 2. 오차가 더 클수록 penalty를 주기 위해서 이렇게 두가지 이유 때문 아닌가요? convex 함수로 만들기 위해서인가요?

최병권씨가 답한 내용이 맞는거 같습니다. 수식적으로 MSE 는 ((h) - y)^2 합의 평균이니까, 양의 2차방정식은 항상 아래로 볼록한 convex 라고 생각하시면 됩니다.