\(\Leftrightarrow2-6sinx.cosx-2sinx+2cosx+2cos^2x=0\)
\(\Leftrightarrow3\left(1-2sinx.cosx\right)-2\left(sinx-cosx\right)+cos^2x-sin^2x=0\)
\(\Leftrightarrow3\left(sinx-cosx\right)^2-2\left(sinx-cosx\right)-\left(sinx-cosx\right)\left(sinx+cosx\right)=0\)
\(\Leftrightarrow\left(sinx-cosx\right)\left(sinx-2cosx-1\right)=0\)
\(\Leftrightarrow\left[{}\begin{matrix}sinx-cosx=0\Leftrightarrow x=\frac{\pi}{4}+k\pi\\sinx-2cosx=1\left(1\right)\end{matrix}\right.\)
Xét (1) \(\Leftrightarrow\frac{1}{\sqrt{5}}sinx-\frac{2}{\sqrt{5}}cosx=\frac{1}{\sqrt{5}}\)
Đặt \(\frac{1}{\sqrt{5}}=cosa\) với \(a\in\left(0;\pi\right)\)
\(\Rightarrow sinx.cosa-cosx.sina=cosa\)
\(\Leftrightarrow sin\left(x-a\right)=sin\left(\frac{\pi}{2}-a\right)\)
\(\Leftrightarrow\left[{}\begin{matrix}x-a=\frac{\pi}{2}-a+k2\pi\\x-a=a+\frac{\pi}{2}+k2\pi\end{matrix}\right.\)
\(\Leftrightarrow\left[{}\begin{matrix}x=\frac{\pi}{2}+k2\pi\\x=2a+\frac{\pi}{2}+k2\pi\end{matrix}\right.\)