x^2 + 2y^2 + 3xy - x - y + 3 = 0
<=> x^2 + 2xy + y^2 + y^2 + xy -(x + y) + 3 = 0
<=> (x + y)^2 + y(x + y) - (x + y) + 3 = 0
<=> (x + y)(x + 2y - 1) = - 3
Suy ra có các hệ sau:
{ x + y = - 3
{ x + 2y - 1 = 1
=> x = - 8; y = 5
{ x + y = - 1 (3)
{ x + 2y - 1 = 3 (4)
=> x = - 6; y = 5
{ x + y = 1
{ x + 2y - 1 = - 3 (2)
=> x = 4; y = - 3
{ x + y = 3 (1)
{ x + 2y - 1 = -1 (2)
=> x = 6; y = - 3
Kết luận : pt có 4 nghiệm nguyên (x,y) = (-8,5); (-6,5); (4;-3);(6,-3)