+) Với m = 0 ta có nghiệm x = 2 > 0 và y = -1/2 < 0 ( thỏa mãn)

+) Với m khác 0

Ta có: \(\hept{\begin{cases}x+my=2\\mx-2y=1\end{cases}}\)

<=> \(\hept{\begin{cases}mx+m^2y=2m\\mx-2y=1\end{cases}}\)

<=> \(\hept{\begin{cases}m^2y+2y=2m-1\\x=2-my\end{cases}}\)

<=> \(\hept{\begin{cases}y=\frac{2m-1}{m^2+2}\\x=2-\frac{2m^2-m}{m^2+2}=\frac{4+m}{m^2+2}\end{cases}}\) 

Với đk: x > 0 ; y < 0 khi đó \(\hept{\begin{cases}\frac{2m-1}{m^2+2}< 0\\\frac{4+m}{m^2+2}>0\end{cases}}\Leftrightarrow\hept{\begin{cases}m< \frac{1}{2}\\m>-4\end{cases}}\Leftrightarrow-4< m< \frac{1}{2}\)

vì m khác 0 nên ta có: \(\hept{\begin{cases}-4< m< \frac{1}{2}\\m\ne0\end{cases}}\)

Kết hợp 2 TH ta có: -4 < m <1/2

\(x-y=2\Rightarrow y=x-2\). Thay vào pt đầu tiên, ta có:

\(\left(m-1\right)x+2\left(x-2\right)=m+1\) 

\(\Leftrightarrow\left(m+1\right)x=m+5\)

 Ta thấy \(m\) không thể bằng -1 được vì khi đó \(m+5=0\Leftrightarrow m=-5\), trong khi \(m\) không thể mang 2 giá trị cùng một lúc. Vì vậy, \(m\ne-1\).  \(\Rightarrow x=\dfrac{m+5}{m+1}\)

\(\Rightarrow y=x-2=\dfrac{m+5}{m+1}-2\) \(=\dfrac{3-m}{m+1}\).

Từ đó, ta có \(xy=\dfrac{\left(m+5\right)\left(3-m\right)}{\left(m+1\right)^2}\).

Rõ ràng \(\left(m+1\right)^2>0\) nên để \(xy>0\) thì \(\left(m+5\right)\left(3-m\right)>0\) \(\Leftrightarrow-5< m< 3\)

Kết luận: Để hpt đã cho có nghiệm duy nhất \(x,y\) thỏa mãn ycbt thì\(-5< m< 3\) và \(m\ne-1\)

\(\left\{{}\begin{matrix}x+mx=2\\mx-2y=1\end{matrix}\right.\)

Nếu m=0 \(\Rightarrow\left\{{}\begin{matrix}x=2\\-2y=1\end{matrix}\right.\) \(\Leftrightarrow\left\{{}\begin{matrix}x=2\\y=\dfrac{-1}{2}< 0\end{matrix}\right.\) (L)

Nếu m≠0 \(\Rightarrow\left\{{}\begin{matrix}mx+m^2y=2m\left(1\right)\\mx-2y=1\left(2\right)\end{matrix}\right.\)

Trừ từng vế của (1) cho (2) ta được:

\(m^2y+2y=2m-1\) \(\Leftrightarrow\left(m^2+2\right)y=2m-1\) \(\Leftrightarrow y=\dfrac{2m-1}{m^2+2}\) Thay vào (2) ta được:

\(mx-2\cdot\dfrac{2m-1}{m^2+2}=1\) \(\Leftrightarrow mx=1+\dfrac{4m-2}{m^2+2}=\dfrac{m^2+2+4m-2}{m^2+2}=\dfrac{m\left(m+4\right)}{m^2+2}\) 

\(x=\dfrac{m+4}{m^2+2}\)

Vì x>0, y>0 \(\Rightarrow\left\{{}\begin{matrix}\dfrac{2m-1}{m^2+2}>0\\\dfrac{m+4}{m^2+2}>0\end{matrix}\right.\) \(\Leftrightarrow\left\{{}\begin{matrix}2m-1>0\\m+4>0\end{matrix}\right.\) Vì \(m^2+2\ge2>0\)

\(\Leftrightarrow\left\{{}\begin{matrix}m>\dfrac{1}{2}\\m>-4\end{matrix}\right.\) \(\Leftrightarrow m>\dfrac{1}{2}\) Vậy...

Thay m=2 vào HPT ta có: 

\(\left\{{}\begin{matrix}\left(2-1\right)x-2y=6-1\\2x-y=2+5\end{matrix}\right.\)

⇔\(\left\{{}\begin{matrix}x-2y=5\\2x-y=7\end{matrix}\right.\)

⇔\(\left\{{}\begin{matrix}2x-4y=10\\2x-y=7\end{matrix}\right.\)

⇔\(\left\{{}\begin{matrix}2x-4y=10\\-3y=3\end{matrix}\right.\)

⇔\(\left\{{}\begin{matrix}x=3\\y=-1\end{matrix}\right.\)

Vậy HPT có nghiemj (x;y) = (3;-11)