Lời giải:
Hiển nhiên $x$ là số nguyên không âm.
$x=\sqrt{2x(x-y)+2y-x+2}$
$\Rightarrow x^2=2x(x-y)+2y-x+2$
$\Leftrightarrow x^2-x(2y+1)+(2y+2)=0(*)$
Coi đây là pt bậc 2 ẩn $x$. Để pt ban đầu có $x,y$ nguyên thì $(*)$ có nghiệm nguyên
Điều này xảy ra khi $\Delta=(2y+1)^2-4(2y+2)=4y^2-4y-7$ là scp
Đặt $4y^2-4y-7=t^2$ với $t$ tự nhiên
$\Leftrightarrow (2y-1)^2-8=t^2$
$\Leftrightarrow 8=(2y-1-t)(2y-1+t)$
Đây là dạng pt tích đơn giản nên xét các TH ra ta tìm được $y=2; y=-1$
Thay $y=2; y=-1$ lần lượt lại PT $(*)$ ta tìm được:
$(x,y)=(0,-1); (2;2); (3;2)$
Thử lại vào pt ban đầu ta thấy đều thỏa mãn.