Lời giải:
Ta có:
\(x^3+ax^2+bx+2=x(x^2-x-1)+x^2+x+ax^2+bx+2\)
\(=x(x^2-x-1)+(a+1)(x^2-x-1)+(a+1)(x+1)+x+bx+2\)
\(=(x+a+1)(x^2-x-1)+x(a+b+2)+(a+3)\)
Từ đây suy ra $x^3+ax^2+bx+2$ chia $x^2-x-1$ dư $x(a+b+2)+(a+3)$
Để phép chia là chia hết thì $x(a+b+2)+(a+3)=0$ với mọi $x$
Điều này xảy ra khi $a+b+2=0$ và $a+3=0$
Tức $a=-3; b=1$