Lời giải:
Ta có:
\(A(x)=x^4-3x^3+ax+b=x^2(x^2-3x+4)-4(x^2-3x+4)-12x+16+ax+b\)
\(=(x^2-4)(x^2-3x+4)+(a-12)x+(b+16)\)
\(=(x^2-4)B(x)+(a-12)x+(b+16)\)
Như vậy $A(x)$ khi chia $B(x)$ có dư là \((a-12)x+(b+16)\)
Để $A(x)$ chia hết cho $B(x)$ thì \((a-12)x+(b+16)=0, \forall x\)
\(\Rightarrow \left\{\begin{matrix} a-12=0\\ b+16=0\end{matrix}\right.\Rightarrow \left\{\begin{matrix} a=12\\ b=-16\end{matrix}\right.\)