Lời giải:
Viết lại PT:
\(x^2+x(y-1)+(-2y^2+4y-12)=0\)
Coi đây là PT bậc 2 ẩn $x$. Để PT có nghiệm nguyên thì \(\Delta\) phải là 1 số chính phương.
Đặt \(\Delta=(y-1)^2-4(-2y^2+4y-12)=t^2(t\in\mathbb{N})\)
\(\Leftrightarrow 9y^2-18y+49=t^2\)
\(\Leftrightarrow (3y-3)^2+40=t^2\)
\(\Leftrightarrow 40=t^2-(3y-3)^2=(t-3y+3)(t+3y-3)\)
Dễ thấy $t+3y-3\geq 0$ với mọi số nguyên dương $y$ và số tự nhiên $t$.
\(t+3y-3\geq t-3y+3\)
$t-3y+3,t+3y-3$ cùng tính chẵn lẻ. Do đó ta chỉ xét các TH sau:
\((t-3y+3, t+3y-3)=(2,20); (4,10)\)
\(\Rightarrow y=4; y=2\)
Thay lần lượt các giá trị $y$ vừa tìm được vào PT ban đầu ta thu được:
\((x,y)=(3,2)\)