Từ đường tròn lượng giác, trên \(\left(-\dfrac{\pi}{2};3\pi\right)\):

- Nếu \(0< t< 1\) thì \(sinx=t\) có 4 nghiệm

- Nếu \(-1< t< 0\) thì \(sinx=t\) có 3 nghiệm

- Nếu \(t=0\) thì \(sinx=t\) có 3 nghiệm

- Nếu \(t=1\) thì \(sinx=t\) có 2 nghiệm

- Nếu \(t=-1\) thì \(sinx=t\) có 1 nghiệm

Do đó pt đã cho có 5 nghiệm pb trong khoảng đã cho khi:

\(2t^2-\left(5m+1\right)t+2m^2+2m=0\) có 2 nghiệm pb thỏa mãn:

- TH1: \(\left\{{}\begin{matrix}t_1=-1\\0< t_2< 1\end{matrix}\right.\)

- TH2: \(\left\{{}\begin{matrix}-1< 0< t_1\\t_2=1\end{matrix}\right.\)

- TH3:  \(\left\{{}\begin{matrix}t_1=0\\t_2=1\end{matrix}\right.\)

Về cơ bản, chỉ cần thay 1 nghiệm bằng 0 hoặc 1 rồi kiểm tra nghiệm còn lại có thỏa hay ko là được

\(\Leftrightarrow\left(1-sinx\right)\left(cos2x+3msinx+sinx-1\right)=m\left(1-sinx\right)\left(1+cosx\right)\)

\(\Leftrightarrow\left[{}\begin{matrix}sinx=1\Rightarrow x=\dfrac{\pi}{2}\\cos2x+3m.sinx+sinx-1=m\left(1+sinx\right)\left(1\right)\end{matrix}\right.\)

Bài toán thỏa mãn khi (1) có 5 nghiệm khác nhau trên khoảng đã cho thỏa mãn \(sinx\ne1\)

Xét (1):

\(\Leftrightarrow1-2sin^2x+3msinx+sinx-1=m+m.sinx\)

\(\Leftrightarrow2sin^2x-sinx-2m.sinx+m=0\)

\(\Leftrightarrow sinx\left(2sinx-1\right)-m\left(2sinx-1\right)=0\)

\(\Leftrightarrow\left(2sinx-1\right)\left(sinx-m\right)=0\)

\(\Leftrightarrow\left[{}\begin{matrix}sinx=\dfrac{1}{2}\Rightarrow x=\dfrac{\pi}{6};\dfrac{5\pi}{6}\\sinx=m\left(2\right)\end{matrix}\right.\)

\(\Rightarrow\left(2\right)\) có 3 nghiệm khác nhau trên \(\left(-\dfrac{\pi}{2};2\pi\right)\)

\(\Leftrightarrow-1< m< 0\)

Đáp án A

Phương pháp giải:

Biến đổi công thức lượng giác, đưa phương trình bài cho về dạng phương trình cơ bản, kết hợp với điều kiện nghiệm để tìm giá trị của tham số m

Lời giải:

\(\Leftrightarrow2\left(cos^2x-sin^2x\right)+sinx.cosx\left(sinx+cosx\right)=m\left(sinx+cosx\right)\)

\(\Leftrightarrow\left(2cosx-2sinx\right)\left(sinx+cosx\right)+sinx.cosx\left(sinx+cosx\right)=m\left(sinx+cosx\right)\)

\(\Leftrightarrow\left[{}\begin{matrix}sinx+cosx=0\left(\text{vô nghiệm trên đoạn xét}\right)\\2cosx-2sinx+sinx.cosx=m\left(1\right)\end{matrix}\right.\) 

Xét (1), đặt \(t=cosx-sinx=\sqrt{2}cos\left(x+\dfrac{\pi}{4}\right)\)

\(\Rightarrow\left\{{}\begin{matrix}t\in\left[-1;1\right]\\sinx.cosx=\dfrac{1-t^2}{2}\end{matrix}\right.\)

\(\left(1\right)\Leftrightarrow2t+\dfrac{1-t^2}{2}=m\)

Xét hàm \(f\left(t\right)=-\dfrac{1}{2}t^2+2t+\dfrac{1}{2}\) trên \(\left[-1;1\right]\)

\(-\dfrac{b}{2a}=2\notin\left[-1;1\right]\) ; \(f\left(-1\right)=-2\) ; \(f\left(1\right)=2\)

\(\Rightarrow-2\le f\left(t\right)\le2\Rightarrow-2\le m\le2\)

Chọn C.

y' = -2cosxsinx + cosx = cosx(1 – 2sinx)

Vì . Vậy có 3 nghiệm thuộc khoảng (0; π).

Chọn C.