Lời giải:
Thay \(y^2+1=xy\) vào PT $(2)$ ta có:
\(x^2+xy+2(x+y)=0\)
\(\Leftrightarrow x(x+y)+2(x+y)=0\)
\(\Leftrightarrow (x+y)(x+2)=0\)
\(\Rightarrow \left[\begin{matrix} x=-y\\ x=-2\end{matrix}\right.\)
Nếu \(x=-2\Rightarrow y^2+1=xy=-2y\)
\(\Leftrightarrow y^2+1+2y=0\Leftrightarrow (y+1)^2=0\Leftrightarrow y=-1\)
Nếu \(x=-y\Rightarrow y^2+1=xy=(-y).y=-y^2\leq 0\) (vô lý- loại)
Vậy \((x,y)=(-2,-1)\)