Xét hàm \(h\left(x\right)=f\left(x^2-2x-m\right)\)
\(g\left(x\right)\) có 5 cực trị khi \(h\left(x\right)\) có 2 cực trị dương
\(h'\left(x\right)=2\left(x-1\right).f'\left(x^2-2x-m\right)=0\Rightarrow\left[{}\begin{matrix}x=1\\f'\left(x^2-2x-m\right)=0\left(1\right)\end{matrix}\right.\)
Xét (1), ta cần (1) có đúng 1 nghiệm dương bội lẻ khác 1
\(f'\left(x^2-2x-m\right)=0\Rightarrow\left[{}\begin{matrix}x^2-2x-m=0\\x^2-2x-m=1\end{matrix}\right.\)
\(\Rightarrow\left[{}\begin{matrix}m=x^2-2x\\m=x^2-2x+1\end{matrix}\right.\) \(\Rightarrow m=0\)



