\(2xy\le x^2+y^2\)
\(\Rightarrow x^2+y^2+4x+2y+1>5x^2+2y^2\)
\(\Rightarrow4x^2-4x+1+y^2-2y+1< 3\)
\(\Rightarrow\left(2x-1\right)^2+\left(y-1\right)^2< 3\)
Do \(x\) nguyên \(\Rightarrow2x-1\ne0\), ta có các trường hợp xảy ra:
\(\left\{{}\begin{matrix}\left(2x-1\right)^2=1\\\left(y-1\right)^2=0\end{matrix}\right.\) \(\Rightarrow\left\{{}\begin{matrix}\left[{}\begin{matrix}x=1\\x=0\end{matrix}\right.\\y=1\end{matrix}\right.\)
\(\left\{{}\begin{matrix}\left(2x-1\right)^2=1\\\left(y-1\right)^2=1\end{matrix}\right.\) \(\Rightarrow\left\{{}\begin{matrix}\left[{}\begin{matrix}x=0\\x=1\end{matrix}\right.\\\left[{}\begin{matrix}y=0\\y=2\end{matrix}\right.\end{matrix}\right.\)
Thế ngược vào BPT ban đầu ta thấy chỉ có các cặp \(\left(x;y\right)=\left(0;1\right);\left(1;1\right);\left(0;0\right)\) là thỏa mãn