Gọi $I$ là trung điểm $AB$, $I$ cố định.
\(\vec{MA}^2+\vec{MB^2}=\left(\vec{MI}+\vec{IA}\right)^2+\left(\vec{MI}+\vec{IB}\right)^2\)
\(=2.\vec{MI^2}+IA^2+IB^2+2\vec{MI}\left(\vec{IA}+\vec{IB}\right)\)
\(=2.\vec{MI^2}+IA^2+IB^2\) (do $I$ là trung điểm $AB$)
Mặt khác, $IA^2$ và $IB^2$ không đổi, nên để $MA^2+MB^2$ nhỏ nhất, thì $MI^2$ nhỏ nhất. Điều này xảy ra khi và chỉ khi $MI$ vuông góc với $Ox$.
Đến đây, em tự suy nghĩ và làm nốt nhé.