Bài này chỉ cần kiên nhẫn, mà mình hơi thiếu kiên nhẫn nên hướng dẫn thôi nghe:
Từ giả thiết hàm đạt max tại \(x=-1\Rightarrow x=-1\) là 1 điểm cực đại
\(\Rightarrow\left\{{}\begin{matrix}f'\left(-1\right)=0\\f''\left(-1\right)< 0\end{matrix}\right.\)
\(f'\left(-1\right)=0\Rightarrow6a-b+2=0\Leftrightarrow b=6a+2\)
Thế vào hàm ban đầu:
\(f\left(x\right)=a\left(x-1\right)^2\left(x^2+4x+5\right)\)
Tới đây tính \(f''\left(-1\right)=-4a< 0\Rightarrow a>0\)
Từ đó hoành độ min, max của f(x) hoàn toàn giống với hoành độ min, max của \(g\left(x\right)=\left(x-1\right)^2\left(x^2+4x+5\right)\)
Đạo hàm, giải phương trình, tính giá trị tại mút và cực trị => min, max