Lời giải:
a. Để pt có 2 nghiệm thì:
$\Delta'=(m-3)^2-(m^2+3)\geq 0$
$\Leftrightarrow -6m+6\geq 0\Leftrightarrow m\leq 1$
b.
Với $x_1,x_2$ là 2 nghiệm của pt thì áp dụng định lý Viet ta có:
\(\left\{\begin{matrix}
x_1+x_2=2(m-3)\\
x_1x_2=m^2+3\end{matrix}\right.\)
Khi đó:
$(x_1-x_2)^2-5x_1x_2=4$
$\Leftrightarrow (x_1+x_2)^2-4x_1x_2-5x_1x_2=4$
$\Leftrightarrow (x_1+x_2)^2-9x_1x_2=4$
$\Leftrightarrow 4(m-3)^2-9(m^2+3)=4$
$\Leftrightarrow -5m^2-24m+5=0$
$\Leftrightarrow m=-5$ hoặc $m=\frac{1}{5}$ (đều tm)