TL:
Đặt a-b=x ; a+b+ab+1=y thì ta có pt ban đầu trở thành :
x(x2+3y)=y+25
.............(rồi bạn làm tiếp)
\(a^3-b^3+3\left(a^2-b^2\right)+3\left(a-b\right)=\left(a+1\right)\left(b+1\right)+25\)
\(\Leftrightarrow\left(a^3+3a^2+3a+1\right)-\left(b^3+3b^2+3b+1\right)=\left(a+1\right)\left(b+1\right)+25\)
\(\Leftrightarrow\left(a+1\right)^3-\left(b+1\right)^3=\left(a+1\right)\left(b+1\right)+25\) (*)
Đặt x=a+1,y=b+1 (x,y thuộc Z; x,y >= 2)
Khi đó (*) trở thành \(x^3-y^3=xy+25\Leftrightarrow\left(x-y\right)\left(x^2+xy+y^2\right)=xy+25\) (**)
Từ (**) => \(x>y\Rightarrow x-y\ge1\) mà \(x^2+xy+y^2>0\) nên:
\(x^2+xy+y^2\le xy+25\Rightarrow x^2+y^2\le25\Rightarrow x\le4\) (1)
Mặt khác x>y và x,y >= 2 nên xy >= 6
=> \(x^3-y^3=xy+25\ge31\Rightarrow x^3>31\Rightarrow x>3\) (2)
Từ (1) và (2) => x=4
Do x>y và y >= 2 nên \(y\in\left\{2;3\right\}\)
Thử lại, chỉ có x=4,y=3 thỏa (**) => a=3,b=2
Vậy a=3,b=2