- Với \(m=0\Rightarrow\left\{{}\begin{matrix}x=1\\y=-1\end{matrix}\right.\) \(\Rightarrow xy=-1\)
- Với \(m=1\Rightarrow\) hệ có vô số nghiệm \(\Rightarrow\) loại
- Với \(m\ne0;1\) nhân 2 vế của pt đầu với \(m\) rồi trừ vế cho vế ta được:
\(\left\{{}\begin{matrix}mx+m^2y=m^2+m\\mx+y=3m-1\end{matrix}\right.\) \(\Rightarrow\left(m^2-1\right)y=m^2-2m+1\)
\(\Rightarrow\left\{{}\begin{matrix}y=\frac{\left(m-1\right)^2}{\left(m+1\right)\left(m-1\right)}=\frac{m-1}{m+1}\\x=m+1-my=m+1-\frac{m\left(m-1\right)}{m+1}=\frac{3m+1}{m+1}\end{matrix}\right.\)
\(\Rightarrow P=xy=\frac{\left(m-1\right)\left(3m+1\right)}{\left(m+1\right)^2}=\frac{3m^2-2m-1}{\left(m+1\right)^2}=-1+\frac{4m^2}{\left(m+1\right)^2}>-1\)
Vậy \(xy\ge-1\) \(\forall m\ne1\Rightarrow xy_{min}=-1\) khi \(m=0\)