Ta có:
\(x=\sqrt{2x\left(x-y\right)+2y-x+2}\Leftrightarrow x^2=2x^2-2xy+2y-x+2\)
\(\Leftrightarrow x^2-2xy+2y-x+2=0\Leftrightarrow x\left(x-2y\right)+\left(2y-x\right)=-2\Leftrightarrow\left(2y-x\right)\left(x-1\right)=2\).
Ta có các trường hợp sau:
\(+,\hept{\begin{cases}2y-x=1\\x-1=2\end{cases}}\Leftrightarrow\hept{\begin{cases}2y-x=1\\x=3\end{cases}}\Leftrightarrow\hept{\begin{cases}y=2\\x=3\end{cases}}\left(\text{thỏa mãn}\right).\)
\(+,\hept{\begin{cases}2y-x=2\\x-1=1\end{cases}}\Leftrightarrow\hept{\begin{cases}2y-x=2\\x=2\end{cases}}\Leftrightarrow\hept{\begin{cases}x=2\\y=2\end{cases}}\left(\text{thỏa mãn}\right).\)
\(+,\hept{\begin{cases}2y-x=-1\\x-1=-2\end{cases}}\Leftrightarrow\hept{\begin{cases}2y-x=-1\\x=-1\end{cases}}\Leftrightarrow\hept{\begin{cases}2y=-2\\x=-1\end{cases}}\Leftrightarrow x=y=-1\left(\text{loại}\right).\)
\(+,\hept{\begin{cases}2y-x=-2\\x-1=-1\end{cases}}\Leftrightarrow\hept{\begin{cases}2y-x=-2\\x=0\end{cases}}\Leftrightarrow\hept{\begin{cases}y=-1\\x=0\end{cases}}\left(\text{loại}\right).\)
Thử lại 2 nghiệm trên đều thỏa mãn.
Vậy: \(\left(x,y\right)\in\left\{\left(3,2\right);\left(2,2\right)\right\}.\)
