Từ pt (2) ta có \(x^4-4x^3-4yx^2+4x^2+y^2+2xy=0\)
\(\Leftrightarrow\left(x^4-4x^3+4x^2\right)-4\left(x^2-2x\right)y+4y^2-3y^2-6xy=0\)\(\Leftrightarrow\left(x^2-2x-2y\right)^2=3y^2+6xy\)
Hệ pt đã cho trở thành: \(\hept{\begin{cases}x^2+2xy-2x-y=0\\\left(x^2-2x-2y\right)^2=3y^2+6xy\end{cases}}\Rightarrow\hept{\begin{cases}y=x^2+2xy-2x\left(3\right)\\y^2\left(1+2x\right)^2=3y\left(y+2x\right)\left(4\right)\end{cases}}\)
Từ (4) ta có: \(2y\left(2xy+2x^2-3x-y\right)=0\Leftrightarrow\orbr{\begin{cases}y=0\\2xy+2x^2-3x-y=0\end{cases}}\)
+ Với y=0 thì từ (3) ta có: \(x^2-2x=0\Leftrightarrow\orbr{\begin{cases}x=0\\x=2\end{cases}}\)
+ Với \(2xy+2x^2-3x-y=0\Rightarrow y=2xy+2x^2y-3x\)thay vào (3) có \(x\left(2xy-x-1\right)=0\Leftrightarrow\orbr{\begin{cases}x=0\Rightarrow y=0\\y=\frac{x+1}{2x}\left(x\ne0\right)\end{cases}}\)
Thay \(y=\frac{x+1}{2x}\left(x\ne0\right)\)vào pt(3) ta có: \(\left(x-1\right)\left(2x^2+1\right)=0\Leftrightarrow x=1\Rightarrow y=1\)
Vậy hệ pt đã cho có 3 nghiệm (x;y)=(0;0),(2;0),(1;1)
