Ta có: \(a^2+b^2+1=2\left(ab+a+b\right)\)
\(\Leftrightarrow a^2+b^2+1-2ab+2a-2b=4a\)
\(\Leftrightarrow\left(a-b+1\right)^2=4a\)(*)
Do a,b nguyên nên \(\left(a-b+1\right)^2\)là số chính phương. Suy ra a là số chính phương a=x2 (x nguyên)
Khi đó (*) trở thành : \(\left(x^2-b+1\right)^2=4x^2\Rightarrow x^2-b+1=\pm2x\Leftrightarrow b=\left(x\mp1\right)^2\)
Vậy a và b là hai số chính phương liên tiếp.