Lời giải:
Đặt $f(x)=Q(x)(x+1)(x^2+1)+ax^2+bx+c$ trong đó $ax^2+bx+c$ là đa thức dư khi chia $f(x)$ cho $(x+1)(x^2+1)$
Ta có:
$f(x)=Q(x)(x+1)(x^2+1)+a(x^2-1)+b(x+1)+a-b+c$
$=(x+1)[Q(x)(x^2+1)+a(x-1)+b]+a-b+c$
Do đó $f(x)$ chia $x+1$ có dư là $a-b+c$
$\Rightarrow a-b+c=4(*)$
Lại có:
$f(x)=Q(x)(x+1)(x^2+1)+a(x^2+1)-a+bx+c$
$=(x^2+1)[Q(x)(x+1)+a]+bx+(c-a)$
$\Rightarrow f(x)$ khi chia $x^2+1$ có dư là $bx+(c-a)$
$\Rightarrow bx+(c-a)=2x+3$
$\Rightarrow b=2; c-a=3(**)$
Từ $(*);(**)\Rightarrow a=\frac{3}{2}; b=2; c=\frac{9}{2}$