Ta có (ax³ + bx² - 11x + 30) : (x² - 3x - 10) = ax + 3a + b (dư (19a  +3b - 11)x + 10(b + 3a  +3)]

Để  (ax³ + bx² - 11x + 30) \(⋮\) (x² - 3x - 10) khi \(\hept{\begin{cases}19a+3b-11=0\\b+3a+3=0\end{cases}}\Leftrightarrow\hept{\begin{cases}a=2\\b=-9\end{cases}}\)

Vậy a = 2 ; b = -9

Lời giải:
Đặt $f(x)=ax^3+bx^2-11x+10$

$x^2+x-2=(x-1)(x+2)$

Do đó để $f(x)\vdots x^2+x-2$ thì $f(x)\vdots x-1$ và $f(x)\vdots x+2$

$\Leftrightarrow f(1)=f(-2)=0$ (theo định lý Bê-du về phép chia đa thức) 

$\Leftrightarrow a+b-1=-8a+4b+32=0$

$\Leftrightarrow a=3; b=-2$ 

Đặt \(f\left(x\right)=ax^3+bx^2-11x+30\)

Ta có : \(x^2-3x-10=\left(x+2\right)\left(x-5\right)\)

+) \(f\left(x\right)⋮x+2\)

\(\Leftrightarrow f\left(-2\right)=0\)

\(\Leftrightarrow-8a+4b-11.\left(-2\right)+30=0\)

\(\Leftrightarrow-8a+4b+22+30=0\)

\(\Leftrightarrow-8a+4b+52=0\)

\(\Leftrightarrow-2a+b+13=0\)( * ) 

+) \(f\left(x\right)⋮x-5\)

\(\Leftrightarrow f\left(5\right)=0\)

\(\Leftrightarrow125a+25b-11.5+30=0\)

\(\Leftrightarrow125a+25b-25=0\)

\(\Leftrightarrow5a+b-1=0\)

\(\Leftrightarrow-2a+7a+b+13-14=0\)

\(\Leftrightarrow\left(-2a+b+13\right)+\left(7a-14\right)=0\)( ** ) 

Từ ( * ) ; ( ** ) 

\(\Rightarrow7a-14=0\)

\(\Rightarrow7a=14\)

\(\Rightarrow a=2\)

\(\Rightarrow b=-9\) 

Vậy với  \(a=2;b=-9\) thì  \(ax^3+bx^2-11x+30⋮x^2-3x-10\)

Gọi thương của phép chia F(x) cho G(x) là A(x)

Ta có

G(x)=x^2-3x+2=(x-2)(x-1)

Ta có

F(x)=G(x).A(x)

<=>x^4 -3x^3+x^2+ax+b=(x-2)((x-1).A(x)

Với x=2

=>-4+2a+b=0

<=>2a+b=4(1)

Với x=1

=>-1+a+b=0

<=>a+b=1(2)

Từ (1) và (2)

Ta có

2a+b=4 và a+b=1

giải ra =>a=3,b=-2

nhớ tick mình nha