Để phương trình có 2 nghiệm phân biệt thì △>0\(\Leftrightarrow a^2-4.1.\left(b+1\right)>0\Leftrightarrow a^2-4b-4>0\)
Áp dụng định lí Vi-ét ta có
\(\left\{{}\begin{matrix}x_1+x_2=\frac{-a}{1}=-a\\x_1x_2=\frac{b+1}{1}=b+1\end{matrix}\right.\)
Ta có \(x_1^3-x_2^3=9\Leftrightarrow\left(x_1-x_2\right)\left(x_1^2+x_1x_2+x_2^2\right)=9\Leftrightarrow3\left(x_1^2-2x_1x_2+x_2^2+3x_1x_2\right)=9\Leftrightarrow\left(x_1-x_2\right)^2+3x_1x_2=3\Leftrightarrow3^2+3x_1x_2=3\Leftrightarrow3x_1x_2=-6\Leftrightarrow x_1x_2=-2\)
Vậy \(b+1=-2\Leftrightarrow b=-3\)
Ta lại có \(x_1^3-x_2^3=9\Leftrightarrow\left(x_1-x_2\right)\left(x_1^2+x_1x_2+x_2^2\right)=9\Leftrightarrow3\left(x_1^2+2x_1x_2+x_2^2-x_1x_2\right)=9\Leftrightarrow\left(x_1+x_2\right)^2-x_1x_2=3\Leftrightarrow\left(x_1+x_2\right)^2-\left(-2\right)=3\Leftrightarrow\left(x_1+x_2\right)^2=1\Leftrightarrow\)\(\left[{}\begin{matrix}x_1+x_2=1\\x_1+x_2=-1\end{matrix}\right.\)\(\Leftrightarrow\)\(\left[{}\begin{matrix}a=-1\left(tm\right)\\a=1\left(tm\right)\end{matrix}\right.\)
Vậy (a;b)={(-1;-3);(1;-3)}