\(x^2-2\left(m-3\right)x-2m-10=0\left(1\right)\)
\(\Delta'=\left(m-3\right)^2+2m+10=m^2-6m+9+2m+10=m^2-4m+19=\left(m-2\right)^2+15>0\forall m\)⇒ Phương trình có hai nghiệm phân biệt với mọi m
Theo hệ thức Viét có : \(\left\{{}\begin{matrix}x_1+x_2=2\left(m-3\right)\\x_1x_2=-2m-10\end{matrix}\right.\)
Ta có :\(A=x_1^2+x^2_2-x_1x_2=\left(x_1+x_2\right)^2-3x_1x_2=4\left(m-3\right)^2+3\left(2m+10\right)=4\left(m^2-6m+9\right)+6m+30=4m^2-24m+36+6m+30=4m^2-18m+66=\left(4m^2-2.2.\dfrac{9}{2}m+\dfrac{81}{4}\right)+\dfrac{183}{4}=\left(2m-\dfrac{9}{2}\right)^2+\dfrac{183}{4}\ge\dfrac{183}{4}\)
\(\Rightarrow A_{max}=\dfrac{183}{4},\) đạt được khi \(m=\dfrac{9}{4}\)
