Giải:
Vì hàm số đạt cực trị tại \(x=\frac{\pi}{3}\) nên:
\(y'=2(m^2-3)\cos x-4m\cos 2x=0\) nhận \(x=\frac{\pi}{3}\) là nghiệm
\(\Rightarrow \frac{m^2-3}{2}+m=0\Leftrightarrow \)\(\left[\begin{matrix}m=1\\m=-3\end{matrix}\right.\)
Giờ thử lại xem với giá trị nào của $m$ thì hàm $y$ đạt cực đại tại \(x=\frac{\pi}{3}\) thôi.
Ta thu được \(m=-3\)
Vậy \(m=-3\)