a) x2 + y2 - 2(3x - 5y) = 11
\(\Rightarrow\) x2 + y2 - 6x - 10y = 11
\(\Rightarrow\) (x2 - 6x + 9) + (y2 - 10y + 25) = 45
\(\Rightarrow\) (x - 3)2 + (y - 5)2 = 45
Các số chính phương nguyên bé hơn 45 là: 1; 4; 9; 16; 25; 36. Thay (x - 3)2 bằng các số đó ta được (y - 5)2 lần lượt là 44; 41; 36; 29; 20; 9, chỉ có 36 và 9 là số chính phương.
+ Nếu (x - 3)2 = 9 và (y - 5)2 = 36 thì x = 6 hoặc 0; y = 11 hoặc -1.
+ Nếu (x - 3)2 = 36 và (y - 5)2 = 9 thì x = 9 hoặc -3; y = 8 hoặc 2.