Lời giải:
Ta có: \(P=\frac{x^2+5}{x^3-3x-2}=\frac{x^2+5}{x^2(x-2)+2x(x-2)+(x-2)}\)
\(=\frac{x^2+5}{(x-2)(x^2+2x+1)}=\frac{x^2+2x+1-(2x-4)}{(x-2)(x^2+2x+1)}\)
\(=\frac{(x^2+2x+1)-2(x-2)}{(x-2)(x^2+2x+1)}=\frac{1}{x-2}-\frac{2}{x^2+2x+1}\)
Có \(P=Q\forall x\neq \left\{-1;2\right\}\Leftrightarrow \frac{1}{x-2}-\frac{2}{x^2+2x+1}=\frac{a}{x-2}+\frac{b}{x^2+2x+1}\) với mọi \(x\neq \left\{-1;2\right\}\)
\(\Rightarrow \left\{\begin{matrix} a=1\\ b=-2\end{matrix}\right.\)
\(\Rightarrow a^2-b^3=1^2-(-2)^3=9=3^2\) là một số chính phương
Do đó ta có đpcm.