Lời giải:
\(Q(x)=x^2+2x-3=(x-1)(x+3)\)
Do đó để $P(x)\vdots Q(x)$ thì \(\left\{\begin{matrix} P(x)\vdots x-1\\ P(x)\vdots x+3\end{matrix}\right., \forall x\in\mathbb{R}(*)\)
Theo định lý Bê-du về phép chia đa thức $(*)$ xảy ra khi:
\(\left\{\begin{matrix} P(1)=0\\ P(-3)=0\end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} 3+a+b=0\\ -9-3a+b=0\end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} a=-3\\ b=0\end{matrix}\right.\)
Vậy......