Lời giải:
Lấy PT(1) trừ PT(2) ta có:
\(3x-3y=y^2-x^2+y-x\)
\(\Leftrightarrow 4(x-y)+(x^2-y^2)=0\)
\(\Leftrightarrow (x-y)(4+x+y)=0\Rightarrow \left[\begin{matrix} x=y\\ x+y=-4\end{matrix}\right.\)
Nếu $x=y$. Thay vào PT(1) ta có:
\(3x=y^2+y+1=x^2+x+1\)
\(\Leftrightarrow x^2-2x+1=0\Leftrightarrow (x-1)^2=0\Leftrightarrow x=1\).
\(\Rightarrow y=x=1\)
Ta có nghiệm $(x,y)=(1,1)$
Nếu $x+y=-4$. Lấy PT(1)+PT(2):
\(3(x+y)=y^2+x^2+(x+y)+2\)
\(\Leftrightarrow (x+y)^2-2xy-2(x+y)+2=0\)
\(\Leftrightarrow 16-2xy+10=0\Rightarrow xy=13\)
\(\Rightarrow (x-y)^2=(x+y)^2-4xy=16-4.13<0\) (vô lý)
Vậy HPT có nghiệm duy nhất $(x,y)=(1,1)$