Lời giải:
Áp dụng định lý Bezout về số dư đa thức thì số dư của $P(x)$ khi chia cho $x-1$ và $x+2$ lần lượt là $P(1)$ và $P(-2)$
Có:
\(P(1)=a+a+1-(4b+3)-5b\)
\(P(-2)=-8a+4(a+1)+2(4b+3)-5b\)
Để \(P(x)\vdots x-1; P(x)\vdots x+2\Rightarrow P(1)=P(-2)=0\)
\(\Leftrightarrow \left\{\begin{matrix} 2a-9b-2=0\\ -4a+3b+10=0\end{matrix}\right.\)
\(\Leftrightarrow \left\{\begin{matrix} 2a-9b=2\\ -4a+3b=-10\end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} a=\frac{14}{5}\\ b=\frac{2}{5}\end{matrix}\right.\)