a) \(\left\{{}\begin{matrix}mx+y=1.\\x+my=m+1.\end{matrix}\right.\Leftrightarrow\left\{{}\begin{matrix}y=1-mx.\\x+m\left(1-mx\right)=m+1.\left(1\right)\end{matrix}\right.\)
Xét (1): \(x+m\left(1-mx\right)=m+1.\Leftrightarrow x+m-m^2x-m-1=0.\Leftrightarrow\left(1-m^2\right)x-1=0.\left(2\right)\)
Để hệ phương trình có nghiệm duy nhất. \(\Leftrightarrow\) (2) có nghiệm duy nhất.
\(\Leftrightarrow1-m^2\ne0.\Leftrightarrow m^2\ne1.\Leftrightarrow m\ne\pm1.\)
b) Để hệ phương trình có vô số nghiệm. \(\Leftrightarrow\) (2) có vô số nghiệm.
\(\Leftrightarrow\left\{{}\begin{matrix}1-m^2=0.\\-1=0.\end{matrix}\right.\) (vô lý).
\(\Rightarrow m\in\phi\).
c) Để hệ phương trình có vô nghiệm. \(\Leftrightarrow\) (2) có vô nghiệm.
\(\Leftrightarrow\left\{{}\begin{matrix}1-m^2=0.\\-1\ne0.\end{matrix}\right.\)\(\Leftrightarrow1-m^2=0.\Leftrightarrow m^2=1.\Leftrightarrow m=\pm1.\)