Ta có : \(y'=4x^3+12mx^2+6\left(m+1\right)x=2x\left(2x^2+6mx+3\left(m+1\right)\right)\)
\(\Rightarrow y'=0\Leftrightarrow x=0\) hoặc
\(\Leftrightarrow f\left(x\right)=2x^2+6mx+3m+3=0\)
a) Hàm số có 3 cực trị khi và chỉ khi \(f\left(x\right)\) có 2 nghiệm phân biệt khác 0
\(\Leftrightarrow\begin{cases}\Delta'=3\left(3m^2-2m-2\right)>0\\f\left(0\right)\ne0\end{cases}\)\(\Leftrightarrow\begin{cases}m< \frac{1-\sqrt{7}}{3}\cup m>\frac{1+\sqrt{7}}{3}\\m\ne-1\end{cases}\)
b) Hàm số chỉ có cực tiểu mà không có cực đại
\(\Leftrightarrow\) hàm số không có 3 cực trị \(\Leftrightarrow\frac{1-\sqrt{7}}{3}\le m\le\frac{1+\sqrt{7}}{3}\)