Lời giải:
\(\cos ^2x-2\cos x-3=0\)
\(\Leftrightarrow \cos ^2x+\cos x-3\cos x-3=0\)
\(\Leftrightarrow \cos x(\cos x+1)-3(\cos x+1)=0\Leftrightarrow (\cos x-3)(\cos x+1)=0\)
\(\Rightarrow \left[\begin{matrix} \cos x=3(\text{vô lý vì cos x}\in [-1;1])\\ \cos x=-1\end{matrix}\right.\)
Với \(\cos x=-1=\cos \pi\Rightarrow x=\pm \pi+2k\pi =n\pi \) với $n$ là số nguyên lẻ.