Gọi thương của phép chia là C(x)
ax3+bx2+5x-50 = (x2+3x-10).C(x)
\(\Rightarrow\) ax3+bx2+5x-50 = (x-2)(x+5) . C(x)
Vì đẳng thức đúng với mọi x nên xét x=2, x=-5 nên đẳng thức biến đổi như sau :
\(\Rightarrow\left\{{}\begin{matrix}8a+4b-40=0\\-125a+25b-75=0\end{matrix}\right.\)
\(\Rightarrow\left\{{}\begin{matrix}8a+4b=40\\-125a+25b=75\end{matrix}\right.\)
\(\left\{{}\begin{matrix}2a+b=10\\5a-b=-3\end{matrix}\right.\)
\(\Rightarrow\left\{{}\begin{matrix}a=1\\b=8\end{matrix}\right.\)
Vậy với a=1,b=8 thì ax3+bx2+5x-50 chia hết x2+3x-10