Lời giải:
HPT \(\Leftrightarrow \left\{\begin{matrix} (x-y)^2+3xy=1\\ (x-y)-xy=3\end{matrix}\right.\)
Đặt \(x-y=a; xy=b\). Khi đó, ta có:
\(\left\{\begin{matrix} a^2+3b=1\\ a-b=3\end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} a^2+3b=1\\ a=b+3\end{matrix}\right.\)
\(\Rightarrow (b+3)^2+3b=1\)
\(\Leftrightarrow b^2+9b+8=0\)
\(\Leftrightarrow (b+1)(b+8)=0\Rightarrow \left[\begin{matrix} b=-1\\ b=-8\end{matrix}\right.\)
Với $b=-1$ thì $a=b+3=2$. Khi đó ta có: \(x-y=2; x(-y)=1\)
Theo định lý Vi-et đảo thì $x,-y$ là nghiệm của pt:
\(X^2-2X+1=0\Rightarrow x=-y=1\)
\(\Rightarrow (x,y)=(1,-1)\)
Với $b=-8$ thì $a=b+3=-5$. Khi đó ta có: \(x-y=-5; x(-y)=8\)
Theo định lý Vi-et đảo thì $x,-y$ là nghiệm của pt:
\(X^2+5X+8=0\) (pt này vô nghiệm)
Vậy \((x,y)=(1,-1)\)