Lời giải:
\(\left\{\begin{matrix} x^2+y^2+xy+1=4y\\ (x^2+1)(x+y-2)=y\end{matrix}\right.\)
Lấy PT thứ hai trừ phương trình thứ nhất thu được:
\((x^2+1)(x+y-2)-[(x^2+1)+y^2+xy]=y-4y\)
\(\Leftrightarrow (x^2+1)(x+y-3)=y^2+xy-3y\)
\(\Leftrightarrow (x^2+1)(x+y-3)=y(x+y-3)\)
\(\Leftrightarrow (x^2+1-y)(x+y-3)=0\)
Đến đây ta xét các TH:
TH1: \(x^2+1-y=0\Leftrightarrow x^2+1=y\)
Thay vào PT(2) \(y(x+y-2)=y\Leftrightarrow y(x+y-3)=0\)
Vì \(y=x^2+1\geq 1\neq 0\Rightarrow x+y-3=0\)
\(\Leftrightarrow y=3-x\)
\(\Leftrightarrow x^2+1=3-x\Leftrightarrow x^2+x-2=0\Leftrightarrow (x-1)(x+2)=0\)
\(\Leftrightarrow \left[\begin{matrix} x=1\rightarrow y=2\\ x=-2\rightarrow y=5\end{matrix}\right.\)
TH2: \(x+y-3=0\). Lặp lại giống TH1 ta thu được kết quả như trên
Vậy \((x,y)\in \left\{1,2); (-2,5)\right\}\)