\(f\left(x\right)=x^4-6mx^2+m^2\Rightarrow f'\left(x\right)=4x^3-12mx\)
\(f'\left(x\right)=0\Leftrightarrow4x\left(x^2-3m\right)=0\)
- Nếu \(m\le0\Rightarrow\) hàm đạt GTLN tại \(x=-2\)
\(f\left(-2\right)=m^2-24m+16=16\Rightarrow\left[{}\begin{matrix}m=0\\m=24\left(ktm\right)\end{matrix}\right.\)
- Nếu \(m>0\) hàm có 3 cực trị: \(x=0\) là cực đại, \(x=\pm\sqrt{3m}\) là 1 cực tiểu
TH1: \(m\ge\frac{4}{3}\Rightarrow-\sqrt{3m}\le-2< 1< \sqrt{3m}\)
\(\Rightarrow f\left(x\right)_{max}=f\left(0\right)=m^2=16\Rightarrow m=4\) (thỏa mãn)
- Nếu \(0< m< \frac{4}{3}\)
\(\Rightarrow f\left(x\right)_{max}=max\left\{f\left(0\right);f\left(-2\right)\right\}=max\left\{m^2;m^2-24m+16\right\}\)
+ Với \(m< \frac{2}{3}\Rightarrow f\left(x\right)_{max}=f\left(-2\right)=m^2-24m+16=16\)
\(\Rightarrow\left[{}\begin{matrix}m=0\\m=24\end{matrix}\right.\) (ktm)
- Với \(\frac{2}{3}\le m< \frac{4}{3}\Rightarrow f\left(x\right)_{max}=f\left(0\right)=m^2< \frac{16}{9}< 16\left(ktm\right)\)
Vậy \(S=\left\{0;4\right\}\)