Lời giải:
Ta có: \(\left\{\begin{matrix} (xy+1)(2y-x)=2x^3y^2\\ x^2y^2+1=2y^2\end{matrix}\right.\Rightarrow (xy+2y^2-x^2y^2)(2y-x)=2x^3y^2\)
\(\Leftrightarrow y[(x+2y-x^2y)(2y-x)-2x^3y]=0\)
Hiển nhiên \(y\neq 0\) , do đó \((x+2y-x^2y)(2y-x)=2x^3y\)
\(\Leftrightarrow -x^2+4y^2-2x^2y^2+x^3y=2x^3y\)
\(\Leftrightarrow -x^2+4y^2=x^3y+2x^2y^2\)
\(\Leftrightarrow (2y+x)(2y-x-x^2y)=0\)
TH1: \(2y+x=0\rightarrow x=-2y\)
Thay vào PT $(2)$ suy ra \(4y^4+1=2y^2\leftrightarrow 3y^4+(y^2-1)^2=0\) (vô nghiệm)
TH2: \(2y-x=x^2y\) thay vào PT $(1)$ suy ra
\((xy+1)x^2y=2x^3y^2\leftrightarrow x^2y(xy+1-2xy)=x^2y(1-xy)=0\)
Vì \(y\neq 0\rightarrow \) \(x=0\) hoặc \(xy=1\)
\(\bullet\) \(x=0\rightarrow \text{PT(1)}\rightarrow y=0 \) (vl)
\(xy=1\)\(\Rightarrow \text{PT(2)}\rightarrow y=\pm 1\rightarrow x=\pm 1\) (thử lại thấy đúng)
Vậy \((x,y)=(-1,-1),(1,1)\)