\(f'\left(x\right)=3x^3-4mx=3x\left(x^2-m\right)\)

Ta có : \(f'\left(x\right)=0\Leftrightarrow x=0,x^2=m\)

Để hàm số có cực đại và cực tiểu \(\Leftrightarrow f'\left(x\right)=0\) có 3 nghiệm phân biệt 

\(\Leftrightarrow m>0\)

=> 3 nghiệm là \(x_1=-\sqrt{m};x_2=0;x_3=\sqrt{m}\)

Vậy 3 điểm cực tiểu là :

\(A\left(-\sqrt{m},m^4-m^2+2m\right);B\left(0,m^4+2m\right);C\left(\sqrt{m},-m^2+2m\right)\)

\(\Rightarrow AB=BC=\sqrt{m+m^4};AC=2\sqrt{m}\)

Để A, B, C lập thành tam giác đều thì AB=BC=AC

\(\Leftrightarrow\sqrt{m+m^4}=2\sqrt{m}\)

\(\Leftrightarrow m+m^4=4m\Leftrightarrow m^4=3m\Leftrightarrow m=\sqrt[3]{3}\)

\(y'=4x^3-4mx=4x\left(x^2-m\right)\)

Hàm có cực đại, cực tiểu khi \(m>0\), khi đó ta có tọa độ các cực trị:

\(A\left(0;m^4+2m\right)\) ; \(B\left(-\sqrt{m};m^4-m^2+2m\right)\) ; \(C\left(\sqrt{m};m^4-m^2+2m\right)\)

3 cực trị luôn tạo thành 1 tam giác cân tại A

Gọi H là trung điểm BC \(\Rightarrow H\left(0;m^4-m^2+2m\right)\)

\(\Rightarrow AH=m^2\) ; \(BC=2\sqrt{m}\)

Tam giác ABC đều khi:

\(AH=\dfrac{BC\sqrt{3}}{2}\) \(\Rightarrow m^2=\sqrt{3m}\)

\(\Rightarrow m^4=3m\Rightarrow m=\sqrt[3]{3}\)

Hàm số có cực đại, cực tiểu khi m<2. Tọa độ các điểm cực trị là :

\(A\left(0;m^2-5m+5\right);B\left(\sqrt{2-m};1-m\right);C\left(-\sqrt{2-m};1-m\right)\)

Theo yêu cầu bài toán ta có \(\begin{cases}ab< 0\\AB=BC=CA\end{cases}\) \(\Leftrightarrow\begin{cases}m< 2\\8\left(m-2\right)^3+24=0\end{cases}\)

                                                                       \(\Leftrightarrow m=2-\sqrt[3]{3}\)

Đáp án C

(Sử dụng công thức giải nhanh)

Điều kiện có 3 cực trị là

Khi đó tam giác đều

1.

\(y'=4x^3-4\left(m+1\right)x\)

\(y''=12x-4\left(m+1\right)\)

Hàm đạt cực đại tại x=1 khi: \(\left\{{}\begin{matrix}y'\left(1\right)=0\\y''\left(1\right)< 0\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}4-4\left(m+1\right)=0\\12-4\left(m+1\right)< 0\end{matrix}\right.\) \(\Leftrightarrow\left\{{}\begin{matrix}m=0\\m>2\end{matrix}\right.\) 

Không tồn tại m thỏa mãn

2.

\(y'=4x^3-2\left(m+1\right)x\)

\(y''=12x^2-2\left(m+1\right)\)

Hàm đạt cực tiểu tại x=-1 khi:

\(\left\{{}\begin{matrix}y'\left(-1\right)=0\\y''\left(-1\right)>0\end{matrix}\right.\) \(\Leftrightarrow\left\{{}\begin{matrix}-4+2\left(m+1\right)=0\\12-2\left(m+1\right)>0\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}m=1\\m< 5\end{matrix}\right.\) \(\Rightarrow m=1\)

Ta có : \(f'\left(x\right)=6\left[x^2+\left(m-1\right)x+m\left(1-2m\right)\right]=0\)

                      \(\Leftrightarrow g\left(x\right)=x^2+\left(m-1\right)x+m\left(1-2m\right)=0\)

Hàm số có cực đại và cực tiểu => g(x) có 2 nghiệm phân biệt \(\Leftrightarrow\Delta_g=\left(3m-1\right)^2>0\Leftrightarrow m\ne\frac{1}{3}\)

Thực hiện phép chia f(x) cho g(x) ta  có 

\(f\left(x\right)=\left(2x+m-1\right)g\left(x\right)-\left(3m-1\right)^2x+m\left(m-1\right)\left(1-2m\right)\)

Với \(m\ne\frac{1}{3}\) thì phương trình g(x) = 0 có 2 nghiệm phân biệt \(x_1,x_2\) 

và hàm số :

\(y=f\left(x\right)\) đạt cực trị tại  \(x_1,x_2\) 

Ta có : \(\text{g}\left(x_1\right)=g\left(x_2\right)=0\) nên suy ra

\(y_1=f\left(x_1\right)=-\left(m-3\right)^2x_1+m\left(m-1\right)\left(1-2m\right)\)

\(y_2=f\left(x_1\right)=-\left(m-3\right)^2x_2+m\left(m-1\right)\left(1-2m\right)\)

Đường thẳng đi qua cực đại, cực tiểu là \(\left(\Delta\right)\): \(y=-\left(m-3\right)^2x+m\left(m-1\right)\left(1-2m\right)\)

Để cực đại , cực tiểu nằm trên đường thẳng (d) : y=-4x thì \(\left(\Delta\right)\equiv\left(d\right)\)

\(\Leftrightarrow\begin{cases}-\left(3m-1\right)^2=-4\\m\left(m-1\right)\left(1-2m\right)=0\end{cases}\)

\(\Leftrightarrow\begin{cases}\left(3m-1-2\right)\left(3m-1+2\right)=0\\m\left(m-1\right)\left(1-2m\right)=0\end{cases}\)

\(\Leftrightarrow m=1\)