a) Xét phương trình \(f'\left(x\right)=2x^2+2\left(\cos a-3\sin a\right)x-8\left(1+\cos2a\right)=0\)
Ta có \(\Delta'=\left(\cos a-3\sin a\right)^2+16\left(1+\cos a\right)=\left(\cos a-3\sin a\right)^2+32\cos^2a\ge0\) với mọi a
Nếu \(\Delta'=0\Leftrightarrow\cos a-3\sin a=\cos a=0\Leftrightarrow\sin a=\cos a\Rightarrow\sin^2a+\cos^2a=0\) (Vô lĩ)
Vậy \(\Delta'>0\Rightarrow f'\left(x\right)=0\) có 2 nghiệm \(x_1,x_2\) và hàm số có cực đại và cực tiểu
b) Theo Viet ta có \(x_1+x_2=3\sin a-\cos a;x_1x_2=-4\left(1+\cos2a\right)\)
\(x_1^2+x_2^2=\left(x_1+x_2\right)^2-2x_1x_2=\left(3\sin a-\cos a\right)^2+8\left(1+\cos2a\right)\)
\(=9+8\cos^2a-6\sin a\cos a\)
\(=9+9\left(\sin^2a+\cos^2a\right)-\left(3\sin a+\cos a\right)^2\)
\(=18-\left(3\sin a+\cos a\right)^2\le18\)
