Lời giải:
a. Với $m=-1$ thì PT trở thành:
$x^2+4=0$
$\Leftrightarrow x^2=-4<0$ (vô lý)
Vậy pt vô nghiệm.
b.
Để pt có 2 nghiệm pb $x_1,x_2$ thì:
$\Delta'=(m+1)^2-(m^2-3m)>0$
$\Leftrightarrow m^2+2m+1-m^2+3m>0$
$\Leftrightarrow 5m+1>0\Leftrightarrow m> \frac{-1}{5}$
c.
Để pt có nghiệm thì $\Delta'\geq 0$
$\Leftrightarrow m\geq \frac{-1}{5}$
Áp dụng định lý Viet, với $x_1,x_2$ là nghiệm của pt thì:
$x_1+x_2=2(m+1)$
$x_1x_2=m^2-3m$
Khi đó:
$B=x_1^2+x_2^2+4=(x_1+x_2)^2-2x_1x_2+4$
$=4(m+1)^2-2(m^2-3m)+4$
$=2m^2+14m+8=2m(m+\frac{1}{5})+13,6(m+\frac{1}{5})+5,28$
$=(2m+13,6)(m+\frac{1}{5})+5,28$
$\geq 0+5,28=5,28$ (do $m\geq \frac{-1}{5})$
Vậy GTNN của $B$ là $5,28$ khi $m=\frac{-1}{5}$
