Lời giải:
a) Khi $m=2$ thì pt trở thành:
$x^2-10x+15=0\Leftrightarrow (x-5)^2=10\Rightarrow x=5\pm \sqrt{10}$
b)
Để pt có 2 nghiệm pb $x_1,x_2$ thì trước tiên:
$\Delta'=(2m+1)^2-(4m^2-2m+3)>0$
$\Leftrightarrow 6m-2>0\Leftrightarrow m>\frac{1}{3}$
Áp dụng định lý Viet: \(\left\{\begin{matrix} x_1+x_2=2(2m+1)\\ x_1x_2=4m^2-2m+3\end{matrix}\right.\)
Để $(x_1-1)^2+(x_2-1)^2+2(x_1+x_2-x_1x_2)=18$
$\Leftrightarrow x_1^2+x_2^2-2(x_1+x_2)+2+2(x_1+x_2-x_1x_2)=18$
$\Leftrightarrow x_1^2+x_2^2-2x_1x_2=16$
$\Leftrightarrow (x_1+x_2)^2-4x_1x_2=16$
$\Leftrightarrow 4(2m+1)^2-4(4m^2-2m+3)=16$
$\Leftrightarrow (2m+1)^2-(4m^2-2m+3)=4$
$\Leftrightarrow 6m-2=4\Leftrightarrow m=1$ (thỏa mãn)
vậy...........