mx+y=m
<=>mx-m=-y
<=>m(x-1)=-y(1)
x+my=1
<=>x-1=-my
<=>m(x-1)=-m^2y(2)
Thay (1) vào (2) ta có:
-y=-m^2y
<=> y=m^2y
<=>m^2=1
=>m thuộc{1;-1}
Vậy m thuộc{-1;1}
 

\(\hept{\begin{cases}mx+y=m^2+m+1\\-x+my=m^2\end{cases}}\Leftrightarrow\hept{\begin{cases}m\left(my-m^2\right)+y-m^2-m-1=0\\x=my-m^2\end{cases}}\)

\(\Leftrightarrow\)\(\hept{\begin{cases}\left(m^2y-m^2\right)+\left(y-1\right)-\left(m^3+m\right)=0\\x=my-m^2\end{cases}}\Leftrightarrow\hept{\begin{cases}\left(m^2+1\right)\left(y-m-1\right)=0\\x=my-m^2\end{cases}}\)

\(\Leftrightarrow\)\(\hept{\begin{cases}y=m+1\\x=m\left(m+1\right)-m^2\end{cases}}\Leftrightarrow\hept{\begin{cases}x=m\\y=m+1\end{cases}}\)

\(\Rightarrow\)\(x^2+y^2=2m^2+2m+1=2\left(m+\frac{1}{2}\right)^2+\frac{1}{2}\ge\frac{1}{2}\)

Dấu "=" xảy ra khi \(m=\frac{-1}{2}\) hay hệ có nghiệm \(\left(x;y\right)=\left(\frac{-1}{2};\frac{1}{2}\right)\)

Đk để hpt luôn có nghiệm duy nhất (x;y) \(\frac{4}{1}\ne\frac{3}{2}\) (luôn đúng)

\(HPT\Leftrightarrow\hept{\begin{cases}4x-3y=m-10\\4x+8y=12m+12\end{cases}}\)

\(\Leftrightarrow\hept{\begin{cases}11y=11m+22\\x+2y=3m+3\end{cases}\Leftrightarrow\hept{\begin{cases}y=\frac{11m+22}{11}\\x=3m+3-2y\end{cases}}}\)

\(\Leftrightarrow\hept{\begin{cases}y=\frac{11m+22}{11}\\x=\frac{33m+33-22m-44}{11}\end{cases}\Leftrightarrow\hept{\begin{cases}y=\frac{11m+22}{11}\\x=\frac{11m-11}{11}\end{cases}}}\)\(\Leftrightarrow\hept{\begin{cases}x=m-1\\y=m+2\end{cases}}\)

Vậy vơi mọi m thì hpt có nghiệm duy nhất (x;y)=(m-1;m+2)

Ta có:\(x^2+y^2=\left(m-1\right)^2+\left(m+2\right)^2\)

\(=m^2-2m+1+m^2+4m+4\)

\(=2m^2+2m+5=2\left(m^2+m+\frac{5}{2}\right)\)

\(=2\left(m^2+m+\frac{1}{4}+\frac{9}{4}\right)=2\left(m+\frac{1}{2}\right)^2+\frac{9}{2}\ge\frac{9}{2}\)

Để x²+y² nhỏ nhất <=> \(2\left(m+\frac{1}{2}\right)^2\) nhỏ nhất <=> m+1/2=0 <=> m=-1/2