Lời giải:
PT $\Leftrightarrow 3\sin x-4\sin ^3x-m(1-2\sin ^2x)-(m+1)\sin x+m=0$
$\Leftrightarrow \sin x[4\sin ^2x-2m\sin x+(m-2)]=0$
Dễ thấy trường hợp $\sin x=0$ ta thu được 2 nghiệm thuộc $(0;3\pi)$
Giờ ta cần tìm $m$ sao cho $4\sin ^2x-2m\sin x+(m-2)=0(*)$ có 6 nghiệm thuộc $(0;3\pi)$. Tất nhiên đảm bảo $\sin x\neq 0$
Đặt $\sin x=t(t\in [-1;1]$) thì PT $(*)$ trở thành:
$4t^2-2mt+(m-2)=0(I)$
$\sin x\neq 0\Leftrightarrow t\neq 0\Rightarrow m\neq 2$
Nếu $t=1$ thì $m=2$ (vô lý) nên $t\neq 1$)
Vậy $t\in [-1;1)$ và $t\neq 0$
$\Delta'_{(I)}=m^2-4(m-2)=(m-2)^2+4>0$ nên pt $(I)$ luôn có 2 nghiệm $t_1,t_2$ phân biệt.
Bây giờ bạn vẽ đồ thị hàm sin ra.
Nếu $t_1,t_2\in (0;1)$ thì ứng với mỗi $t$ ta có 4 nghiệm $x$ thỏa mãn
$\Rightarrow (*)$ có 8 nghiệm (loại)
Nếu $t_1,t_2\in [-1;0)$ thì ứng với mỗi $t$ ta có nhiều nhất $2$ nghiệm $x$ thỏa mãn
$\Rightarrow (*)$ có nhiều nhất 4 nghiệm (loại)
Nếu $t_1\in (0;1)$ và $t_2\in (-1;0)$ thì đảm bảo $(*)$ có 6 nghiệm.
$\Leftrightarrow 1>t_1>0>t_2>-1$
Điều này xảy ra khi: \(\left\{\begin{matrix} t_1t_2< 0\\ (t_1+1)(t_2+1)>0\\ (t_1-1)(t_2-1)>0\end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} t_1t_2< 0\\ t_1t_2+(t_1+t_2)+1>0\\ t_1t_2-(t_1+t_2)+1>0\end{matrix}\right. \)
\(\Leftrightarrow \left\{\begin{matrix} \frac{m-2}{4}< 0\\ \frac{m-2}{4}+\frac{m}{2}+1>0\\ \frac{m-2}{4}-\frac{m}{2}+1>0\end{matrix}\right.\Leftrightarrow 2> m> \frac{-2}{3}\)