a) *)Để hệ đã cho vô nghiệm \(\frac{a}{a'}=\frac{b}{b'}\ne\frac{c}{c'}\)

\(\Rightarrow\hept{\begin{cases}\frac{m+1}{5}=\frac{3}{-2}\\\frac{m+1}{5}\ne\frac{5}{3}\end{cases}\Leftrightarrow\hept{\begin{cases}-2m-1=15\\3m+3\ne25\end{cases}\Leftrightarrow}\hept{\begin{cases}m=\frac{-17}{2}\\m\ne\frac{22}{3}\end{cases}}}\)

*) Để hệ có nghiệm duy nhất 

\(\Rightarrow\frac{a}{a'}\ne\frac{b}{b'}\Rightarrow\frac{m+1}{5}\ne\frac{3}{-2}\)

\(\Leftrightarrow-2m-2\ne15\)

\(\Leftrightarrow m\ne\frac{-17}{2}\)

b) Để hpt có nghiệm duy nhất \(\hept{\begin{cases}m\ne\frac{-17}{2}\\x+y=5\end{cases}}\)

Thay x=5-y vào hpt ta có \(\hept{\begin{cases}\left(m+1\right)\left(5-y\right)+3y=5\\5\left(5-y\right)-2y=3\end{cases}}\)

\(\Leftrightarrow\hept{\begin{cases}\left(m+1\right)\left(5-y\right)+3y=5\\25-7y=3\end{cases}\Leftrightarrow\hept{\begin{cases}m=\frac{44}{13}\\y=\frac{22}{7}\end{cases}}}\)

Vậy \(m=\frac{44}{13}\)thỏa mãn điều kiện

a, Khi \(m=-1\)ta có HPT : \(\hept{\begin{cases}-x+y=-2\\x-y=0\end{cases}}\)

=> HPT vô nghiệm

b, \(\hept{\begin{cases}mx+y=2m\\x+my=m+1\end{cases}}\)

\(\Leftrightarrow\hept{\begin{cases}y=2m-mx\\x+m\left(2m-mx\right)=m+1\end{cases}}\)

\(\Leftrightarrow\hept{\begin{cases}y=2m-mx\\\left(1-m^2\right)x=-2m^2+m+1\end{cases}}\)( * )

HPT vô nghiệm

<=> ( * ) vô nghiệm

\(\Leftrightarrow\hept{\begin{cases}1-m^2=0\\-2m^2+m+1\end{cases}}\ne0\)

<=> m = 1 hoặc m = -1 mà m khác 1 và -1/2 

<=> m = -1

\(\hept{\begin{cases}mx+y=4\\x-my=1\end{cases}\Rightarrow\hept{\begin{cases}m+m^2y+y=4\\x=1+my\end{cases}}}\)

\(\Rightarrow\hept{\begin{cases}x=1+my\\y\left(m+1\right)=4-m\end{cases}\Rightarrow\hept{\begin{cases}y=\frac{4-m}{m^2+1}\\x=\frac{m^2+1+4m-m^2}{m^2+1}=\frac{4m+1}{m^2+1}\end{cases}}}\)

\(\Rightarrow x+y=\frac{8}{m^2+1}\Leftrightarrow\frac{4-m+4m+1}{m^2+1}=\frac{8}{m^2+1}\)

<=> 5+3m=8 <=> m=1

\(\Rightarrow\hept{\begin{cases}x=\frac{4+1}{1+1}=\frac{5}{2}\\y=\frac{4-1}{2}=\frac{3}{2}\end{cases}}\)