Lời giải:
PT $\Leftrightarrow 5x^2+2x(1-y)+(y^2-2y-4)=0(*)$
Coi đây là PT bậc 2 ẩn $x$.
Để pt có nghiệm thì $\Delta'\geq 0$
$\Leftrightarrow (y-1)^2-5(y^2-2y-4)\geq 0$
$\Leftrightarrow -4y^2+8y+21\geq 0$
$\Leftrightarrow (7-2y)(2y+3)\geq 0$
$\Rightarrow \frac{7}{2}\geq y\geq \frac{-3}{2}$
Mà $y\in\mathbb{Z}$ nên $y\in\left\{3;2;1;0;-1\right\}$
Với $y=3$: PT $(*)$ trở thành: $5x^2-4x-1=0$
$\Leftrightarrow (x-1)(5x+1)=0\Rightarrow x=1$
Với $y=2$ thì $\Delta'=21$ không phải số chính phương nên PT $(*)$ không có nghiệm nguyên $x$
Với $y=1$ thì PT $(*)$ trở thành: $5x^2-5=0\Rightarrow x=\pm 1$
Với $y=0$ thì $\Delta'=21$ không phải số chính phương nên PT $(*)$ không có nghiệm nguyên
Với $y=-1$ thì PT $(*)$ trở thành: $5x^2+4x-1=0$
$\Leftrightarrow (5x-1)(x+1)=0\Rightarrow x=-1$
Vậy.........
\(5x^2+y^2-2xy+2x-2y-4=0\)
\(\Rightarrow5x^2-2x\left(y-1\right)+y^2-2y-4=0\)
\(\Delta'=\left(y-1\right)^2-5\left(y^2-2y-4\right)\)
\(=y^2-2y+1-5y^2+10y+20\)
\(=-4y^2+8y+21\)
\(=-\left[\left(2y\right)^2+2.2y.2+4-4-21\right]\)
\(=-\left(2y+2\right)^2+25\)
Để phương trình có nghiệm thì \(\Delta'\ge0\)
\(\Leftrightarrow-\left(2y+2\right)^2+25\ge0\)
\(\Leftrightarrow\left(2y+2\right)^2\le25\)
\(\Leftrightarrow-5\le2y+2\le5\)
\(\Leftrightarrow-\frac{7}{2}\le y\le\frac{3}{2}\)
Mà y nguyên nên \(y\in\left\{-3;-2;-1;0;1\right\}\)
Với y = -3 thì \(5x^2+8x+11=0\) ( Vô nghiệm, loại )
Với y = -2 thì \(5x^2+6x+4=0\) ( Vô nghiệm, loại )
Với y = -1 thì \(5x^2+4x-2=0\) ( Không có nghiệm x nguyên, loại )
Với y = 0 thì \(5x^2+2x-4=0\) ( Không có nghiệm x nguyên, loại )
Với y = 1 thì \(5x^2-5=0\Rightarrow x^2=1\Rightarrow x=\pm1\)
Vậy các cặp (x;y) cần tìm là (1;1) và (-1;1)