Lời giải:
Ta thấy:
\(\Delta'=(-m)^2-(2m-3)=(m-1)^2+2>0, \forall m\in\mathbb{R}\)
Do đó pt luôn có hai nghiệm pb với mọi $m$
Áp dụng định lý Viete: \(\left\{\begin{matrix} x_1+x_2=2m\\ x_1x_2=2m-3\end{matrix}\right.\)
Khi đó: \(A=x_1^2(1-x_2^2)+x_2^2(1-x_1^2)\)
\(=(x_1^2+x_2^2)-2(x_1x_2)^2\)
\(=(x_1+x_2)^2-2x_1x_2-2(x_1x_2)^2\)
\(=4m^2-2(2m-3)-2(2m-3)^2\)
\(=-4m^2+20m-12=-(2m-5)^2+13\)
Vì \((2m-5)^2\geq 0\Rightarrow A\leq 0+13=13\)
Vậy $A$ đạt max bằng $13$ khi \((2m-5)^2=0\Leftrightarrow m=\frac{5}{2}\)