\(x^2-2\left(m+1\right)x+m-4=0\) (1)
a) Khi \(m=1\) ta có phương trình: \(x^2-4x-3=0\Leftrightarrow\left[{}\begin{matrix}x=2-\sqrt{7}\\x=2+\sqrt{7}\end{matrix}\right.\)
b) \(\Delta'=\left(m+1\right)^2-\left(m-4\right)=m^2+2m+1-m+4=m^2+m+5>0,\forall m\)
Vậy PT luôn có 2 nghiệm phân biệt
c) Áp dụng hệ thức Vi-et: \(\left\{{}\begin{matrix}x_1+x_2=2\left(m+1\right)\\x_1x_2=m-4\end{matrix}\right.\)
Ta có \(A=x_1^2+x_2^2=\left(x_1+x_2\right)^2-2x_1x_2=4\left(m+1\right)^2-2\left(m-4\right)=4m^2+6m+12\)
Ta có \(4m^2+6m+12=\left(4m^2+2.2.\dfrac{3}{2}m+\dfrac{9}{4}\right)+\dfrac{39}{4}=\left(2m+\dfrac{3}{2}\right)^2+\dfrac{39}{4}\ge\dfrac{39}{4}\)
Dấu = xảy ra \(\Leftrightarrow2m+\dfrac{3}{2}=0\Leftrightarrow m=-\dfrac{3}{4}\)
Khi đó \(A_{max}=\dfrac{39}{4}\)

