Do \(x^2+y^2=1\Rightarrow\) đặt \(\left\{{}\begin{matrix}x=sina\\y=cosa\end{matrix}\right.\)
\(\Leftrightarrow P=\dfrac{2sin^2a+12sina.cosa}{1+2sina.cosa+2cos^2a}=\dfrac{1-cos2a+6sin2a}{2+sin2a+cos2a}\)
\(\Leftrightarrow P\left(2+sin2a+cos2a\right)=1-cos2a+6sin2a\)
\(\Leftrightarrow\left(P-6\right)sin2a+\left(P+1\right)cos2a=1-2P\)
Theo điều kiện có nghiệm của pt lượng giác bậc nhất:
\(\left(P-6\right)^2+\left(P+1\right)^2\ge\left(1-2P\right)^2\)
\(\Leftrightarrow P^2+3P-18\le0\Rightarrow-6\le P\le3\)
Vậy \(\left\{{}\begin{matrix}P_{max}=3\\P_{min}=-6\end{matrix}\right.\)