\(\Leftrightarrow\left(1-sinx\right)\left(cos2x+3msinx+sinx-1\right)=m\left(1-sinx\right)\left(1+cosx\right)\)
\(\Leftrightarrow\left[{}\begin{matrix}sinx=1\Rightarrow x=\dfrac{\pi}{2}\\cos2x+3m.sinx+sinx-1=m\left(1+sinx\right)\left(1\right)\end{matrix}\right.\)
Bài toán thỏa mãn khi (1) có 5 nghiệm khác nhau trên khoảng đã cho thỏa mãn \(sinx\ne1\)
Xét (1):
\(\Leftrightarrow1-2sin^2x+3msinx+sinx-1=m+m.sinx\)
\(\Leftrightarrow2sin^2x-sinx-2m.sinx+m=0\)
\(\Leftrightarrow sinx\left(2sinx-1\right)-m\left(2sinx-1\right)=0\)
\(\Leftrightarrow\left(2sinx-1\right)\left(sinx-m\right)=0\)
\(\Leftrightarrow\left[{}\begin{matrix}sinx=\dfrac{1}{2}\Rightarrow x=\dfrac{\pi}{6};\dfrac{5\pi}{6}\\sinx=m\left(2\right)\end{matrix}\right.\)
\(\Rightarrow\left(2\right)\) có 3 nghiệm khác nhau trên \(\left(-\dfrac{\pi}{2};2\pi\right)\)
\(\Leftrightarrow-1< m< 0\)