Lời giải:
a) Ta thấy:
\(\Delta'=(2m+1)^2-(3m^2+6m)=m^2-2m+1=(m-1)^2\geq 0\) với mọi $m$
Do đó pt luôn có nghiệm với mọi giá trị của $m$ (PT có 2 nghiệm phân biệt khi $\Delta'>0$ hay khi $m\neq 1$ bạn nhé)
b) Áp dụng định lý Vi-et:
\(\left\{\begin{matrix} x_1+x_2=2(2m+1)\\ x_1x_2=3m^2+6m\end{matrix}\right.\)
Khi đó: \(A=x_1x_2-(x_1-x_2)^2=x_1x_2-(x_1^2-2x_1x_2+x_2^2)\)
\(=x_1x_2-(x_1^2+2x_1x_2+x_2^2-4x_1x_2)\)
\(5x_1x_2-(x_1+x_2)^2=5(3m^2+6m)-4(2m+1)^2\)
\(=-m^2+14m-4=45-(m^2-14m+7^2)=45-(m-7)^2\leq 45\)
Vậy $A$ đạt giá trị max bằng $45$ khi $(m-7)^2=0\Leftrightarrow m=7$