Lời giải:
Để pt có 2 nghiệm $x_1,x_2$ thì:
$\Delta'=(m+4)^2-(m^2-8)\geq 0$
$\Leftrightarrow 8m+24\geq 0$
$\Leftrightarrow m\geq -3$
Áp dụng định lý Viet, với $x_1,x_2$ là 2 nghiệm của pt thì:
$x_1+x_2=2(m+4)$
$x_1x_2=m^2-8$
Khi đó:
$A=x_1^2+x_2^2-x_1-x_2=(x_1+x_2)^2-2x_1x_2-(x_1+x_2)$
$=4(m+4)^2-2(m^2-8)-2(m+4)$
$=2m^2+30m+72$
$=2(m^2+15m+36)=2(m+3)(m+12)\geq 0$ do $m\geq -3$
Vậy $A_{\min}=0$. Giá trị này đạt được khi $m=-3$
\(\Delta'=\left(m+4\right)^2-\left(m^2-8\right)=8m+16\ge0\Rightarrow m\ge-2\)
Theo hệ thức Viet: \(\left\{{}\begin{matrix}x_1+x_2=2\left(m+4\right)\\x_1x_2=m^2-8\end{matrix}\right.\)
Đặt \(A=x_1^2+x_2^2-x_1-x_2\)
\(=\left(x_1+x_2\right)^2-2x_1x_2-\left(x_1+x_2\right)\)
\(=4\left(m+4\right)^2-2\left(m^2-8\right)-2\left(m+4\right)\)
\(=2m^2+30m+72\)
\(=2m^2+30m+52+20\)
\(=2\left(m+2\right)\left(m+13\right)+20\)
Do \(m\ge-2\Rightarrow\left\{{}\begin{matrix}m+2\ge0\\m+13>0\end{matrix}\right.\)
\(\Rightarrow2\left(m+2\right)\left(m+13\right)+20\ge20\)
Dấu "=" xảy ra khi \(m=-2\)