Lời giải:
Lấy PT(1) + 3PT(2) ta được:
$mx-3y+3x+3y=7$
$\Leftrightarrow x(m+3)=7(*)$
Để hpt có nghiệm duy nhất $(x,y)$ thì pt $(*)$ phải có nghiệm $x$ duy nhất.
Điều này xảy ra khi $m+3\neq 0\Leftrightarrow m\neq -3$
Khi đó:
$x=\frac{7}{m+3}$
$x=1-y=1-\frac{7}{m+3}=\frac{m-4}{m+3}$
Áp dụng BĐT Cô-si ta thấy:
$x^2+y^2\geq \frac{1}{2}(x+y)^2=\frac{1}{2}$
$\Rightarrow x^2+y^2$ đạt min bằng $\frac{1}{2}$. Giá trị này đạt tại $x=y$
$\Leftrightarrow \frac{7}{m+3}=\frac{m-4}{m+3}$
$\Leftrihgtarrow 7=m-4$
$\Leftrightarrow m=11$